شناسایی الزامات طراحی و قابلیت تبیین سیستم ‌های هوش مصنوعی

با گسترش ‌کاربرد الگوریتم‌های هوش مصنوعی در سازمان‌ها و بخش‌های دولتی، دغدغه‌هایی در مورد مسئولیت‌ اجتماعی کاربست عامل‌های هوشمند همانند شفافیت، پاسخگویی و انصاف در محافل دولتی و دانشگاهی مطرح شده است. بر همین اساس، هدف پژوهش، تبیین مدل ساختاری- تفسیری الزامات طراحی سیستم‌های هوش مصنوعی با قابلیت تبیین در تصمیم‌گیری‌های مبتنی بر مشارکت انسان و هوش مصنوعی است. برای رسیدن به این هدف، از روش آمیخته اکتشافی طراحی مبتنی بر اقدام- دلفی فازی و مدل‌سازی ساختاری- تفسیری برای توسعه و ارزیابی اصول طراحی سیستم هوش مصنوعی با قابلیت تبیین استفاده می‌شود. زمینه پژوهش، ادارۀ کل تنقیح قوانین و مقررات در معاونت حقوقی قوۀ قضائیه است. مشارکت‌کنندگان پژوهش، دست اندرکارانی از ادارۀ کل تنقیح قوانین و مقررات و مرکز فناوری اطلاعات بوده که به همراه پژوهشگران تیم پژوهش را تشکیل می‌دهند و در مجموع 15 نفر هستند. بر اساس یافته‌های پژوهش، مدل، پنج ویژگی قابلیت درک، قابلیت حکمرانی، قابلیت اقناع، دقت پیش‌بینی (توصیفی)، شفافیت و سودمندی را در بر می‌گیرد. این قابلیت‌ها در دو بُعد طبقه‌بندی شدند. بُعد توانش شامل قابلیت درک، قابلیت حکمرانی و قابلیت اقناع  است. بُعد محقق‌سازی نیز شامل ویژگی‌های دقت پیش‌بینی، شفافیت و سودمندی است. افزون بر این، مدل می‌تواند سازوکار تقویت هوشمندی در تعامل انسان-هوش مصنوعی را تبیین کند.

identifying the design requirements of explainable artificial intelligence systems

with the expansion of the use of artificial intelligence algorithms in government organizations, concerns about the social responsibility of using intelligent agents such as transparency, accountability and fairness have been raised in government and academic areas. accordingly, the research’s aim is to explain the structural-interpretive model of the design requirements of artificial intelligence systems with the ability to explain decisions based on human participation and artificial intelligence. the exploratory mixed method of action-based design-fuzzy delphi and structural-interpretive modeling used. the field of research is the legal department of the judiciary. the participants are professionals from the that centers are 15 people in total. based on the findings, the model includes five features of understanding ability, governance ability, persuasion ability, prediction accuracy (descriptive), transparency and usefulness. these capabilities classified in two dimensions. the ability dimension includes the ability to understand, the ability to rule, and the ability to persuade. the dimension of research also includes the features of prediction accuracy, transparency and usefulness. in addition, the model can explain the mechanism of enhancing intelligence in human-artificial intelligence interaction.