هوش مصنوعی و کنترل معنادار بشری: سازوکارهای واکنش‌پذیر به دلایلِ نسبت-به-عامل-خنثی و امکانِ ردگیری عامل(های) مسئول

بخشی از مسائل اخلاقی مرتبط با هوش مصنوعی به خصلت خودگردانی و مسئله شکاف ‌مسئولیت مرتبط است. سیستم‌های خودگردانِ مجهز به هوش مصنوعی قادر به ایجاد رویدادهایی هستند که اگر انسان آنها را ایجاد کرده بود به آنها «تصمیم» گفته می‌شد؛ و اگر این «تصمیم‌ها» خسارتی به بار می‌آورد، انسانی مسئول آن می‌شد. اما وقتی تغییرات را ابزارهای تکنولوژیک خودگردان ایجاد می‌کنند، هرچند همچنان نیاز به پذیرشِ مسئولیت وجود دارد، اما ممکن است چیزی مسئول آن قلمداد نشود. لذا پیشنهاد شده که تکنولوژی‌های خودگردان در صورتی تحتِ مسئولیت انسان باقی بمانند که دو الزام را برآورده کنند: (1) این قابلیت که دلایل انسانی را «ردیابی» کنند؛ و (2) با دنبال کردن زنجیرۀ دلایل انسانی یک عاملِ انسانی «ردگیری» شود. این شروط برای مصنوعات تکنولوژیک و هوش مصنوعی خودگردان ابهامات متعددی را ایجاد خواهد کرد. از آن جمله این است که دلایلِ اخلاقی‌ای که باید ردیابی شوند غالباً نسبت به عامل(ها) خنثی هستند، اما ردگیری یک عاملِ انسانی تنها از طریق دلایل وابسته-به-عامل امکان‌پذیر است. در این مقاله با تحلیل تعبیرهایی که از دو شرط مطرح‌شده ارائه می‌شود از یک تعبیر که پیش از این پیشنهاد نشده به عنوان کم‌مسئله‌ترین تعبیر از جهت حل مسئلۀ ذکرشده دفاع خواهد شد. برای این کار استدلال می‌شود که شکاف مسئولیت زمانی پر می‌شود که تاریخچه رویدادهایی که توسط سامانه‌های خودگردان ایجاد می‌شود شامل فرایندی باشد که طی آن عامل مجموعه‌ای از دلایل هنجاری را به عنوان دلایل قابل‌قبول خود بپذیرید. اگر دلایلی که مطابق آنها سیستم به صورت خودگردان رفتار می‌کند متعلق به یک عامل بشری باشد، آنگاه مسئولیت رویدادهایی که ایجاد می‌شود نیز متعلق به آن عامل خواهد بود.

artificial intelligence and meaningful human control:agent-neutral-reason-responsive mechanisms andthe possibility of tracing responsible agent(s)

some ethical issues related to artificial intelligence relate to the nature of autonomy and the problem of the responsibility gap; autonomous ai systems have behaviors that would be called “decisions” if humans made them, and humans would be held responsible if those “decisions” caused harm. however, when an “action” is performed by autonomous technology, although there is still a need for responsibility, nothing may be held responsible for it. therefore, it is suggested that autonomous technologies remain under human responsibility if they meet two (design) requirements: 1) the ability to “track” human reasons and 2) by following the chain of human reasons, a human agent can be “traced.” these conditions will create many ambiguities for autonomous ai systems; for example, the moral reasons that need to be tracked are often agent-neutral, but tracing a human agent is only possible through agent-dependent reasons. in this article, by analyzing the interpretations of the two conditions, an interpretation that has not been proposed before will be defended as the least problematic interpretation. to this end, it is argued that the responsibility gap is solved when the history of events produced by autonomous systems involves a process by which the agent takes responsibility for an agent-neutral normative reason-responsive mechanism.