بررسی تفسیرپذیری و توضیح‌پذیری در هوش مصنوعی: مروری بر مبانی، روش‌ها، تفسیر مکانیکی و کاربردهای عملی

تفسیرپذیری و توضیح‌پذیری در هوش مصنوعی به چالشی کلیدی برای استقرار ایمن و مسئولانه سیستم‌های یادگیری ماشین در حوزه‌های حساس مانند مراقبت‌های بهداشتی، خدمات مالی، عدالت کیفری و سیستم‌های خودران تبدیل شده است. این پژوهش با رویکرد مرور نظام‌مند، مبانی مفهومی، روش‌های پساحسابی، تفسیر مکانیکی و کاربردهای عملی را بررسی می‌کند. محورها شامل تمایز شفافیت ذاتی و توضیحات پساحسابی، ابزارهایی مانند lime و shap، تفسیر مکانیکی با پچینگ فعال‌سازی و پروب‌های خطی، و کاربردها در حوزه‌های حساس است. نتایج نشان می‌دهد که تفسیرپذیری یک سازه چندلایه و زمینه‌محور است که نیازمند تعادل میان وفاداری فنی و معناداری انسانی است. هیچ روش واحدی کافی نیست؛ رویکردهای ترکیبی مانند ادغام shap با توضیحات خلاف‌واقع یا نقشه‌های برجستگی با مدل‌های جایگزین کارایی بیشتری دارند. تفسیر مکانیکی، با وجود توانایی در کشف مدارهای علّی، به دلیل مقیاس‌پذیری و چندمعنایی نورون‌ها به روش‌های پساحسابی نیاز دارد. موفقیت در محیط‌های واقعی به هم‌سویی توضیحات با زبان تخصصی کاربران و الزامات قانونی مانند قانون هوش مصنوعی اتحادیه اروپا وابسته است. این مطالعه چارچوبی برای انتخاب روش‌ها ارائه می‌دهد و بر طراحی کاربرمحور و استانداردسازی ارزیابی‌ها تاکید دارد. بررسی موارد واقعی مانند شکست‌های سیستم‌های پیش‌بینی، اهمیت اقدام‌پذیری را نشان می‌دهد. تفسیرپذیری به عنوان یک قرارداد اجتماعی، توازن میان وفاداری، اقدام‌پذیری و مشروعیت نهادی را برقرار می‌کند و برای هوش مصنوعی پایدار ضروری است.