|
|
|
|
نقش و الزامات نظارت انسانی بر هوش مصنوعی در قانون اتحادیه اروپا و قوانین ایران
|
|
|
|
|
|
|
|
نویسنده
|
پارسا ناهید
|
|
منبع
|
تحقيق و توسعه در حقوق عمومي - 1403 - دوره : 1 - شماره : 2 - صفحه:112 -140
|
|
چکیده
|
در قانون هوش مصنوعی 2024 اروپا، نظارت انسانی همچون یک اقدام حفاظتی اصلی برای اپراتورهای هوش مصنوعی تاکید شده است. کمیسیون اروپا با پیشنهاد قانون جدید، الزام دقیق و جامع نظارت انسانی بر سیستمهای هوش مصنوعی را مطرح کرده است. در ایران، قانون مدونی برای نظارت انسان بر هوش مصنوعی وجود ندارد؛ اما با استفاده از موادی مانند مواد 7 و 12 قانون مسئولیت مدنی، ماده 333 قانون مدنی، مواد 69 و 112 قانون دریایی و ماده 15 قانون بیمه اجباری 1395، میتوان موضع قانونگذار را در این زمینه مشخص کرد. این مقاله به سوالاتی مانند چهچیزی باید نظارت شود، چه زمانی نظارت لازم است و چه کسی باید نظارت را انجام دهد، پاسخ میدهد. همچنین، به ابهامات و شکافهای قانون جدید هوش مصنوعی و پیامدهای اعتماد بیشازحد به ارائهدهندگان برای ایمنسازی زیرساخت نظارتی سیستمهای هوش مصنوعی پرخطر اشاره میکند. این نوشتار با بررسی کتب و مقالات موجود و تجزیهوتحلیل آنها، ساختاربندی شده است و پس از تعمق و غور در منابع موجود به این نتیجه میرسد که نه ماده 14 قانون جدید هوش مصنوعی اروپا و نه قوانین ایران، جزئیات زیادی در مورد آنچه که ناظر انسانی در هنگام اجرای نظارت باید در نظر بگیرد یا توجه خود را به آن معطوف کند، بیان نمیکند. همچنین، نشان داد که فضای زیادی برای ارائهدهندگان باقی خواهد ماند تا تعیین کنند، جزئیات مربوط به چه دادههایی را بایستی به ناظران انسانی ارائه دهند. نتیجهگیریهای مشابهی در مورد «زمان» اعمال نظارت انجام شد. ارائهدهندگان باید اطمینان حاصل کنند که کاربران در هر زمان ممکن است، فرایندهای سیستم را قطع یا لغو کنند.
|
|
کلیدواژه
|
هوش مصنوعی: انسانمحوری ,نظارت انسانی ,قانون هوش مصنوعی اتحادیه اروپا ,تصمیم گیری خودکار
|
|
آدرس
|
دانشگاه مازندران, ایران.
|
|
پست الکترونیکی
|
nahidparsa84@yahoo.com
|
|
|
|
|
|
|
|
|
|
|
|
|
a comparative analysis of the role and requirements of human oversight on artificial intelligence in eu law and iranian laws
|
|
|
|
|
Authors
|
parsa nahid
|
|
Abstract
|
the ai act 2024 introduced by the european commission highlights human oversight as a key safeguard for ai systems, setting a comprehensive legal framework for monitoring ai operations within the european union. this legislation establishes clear requirements for the supervision of ai systems, particularly those categorized as high-risk. in contrast, iranian law currently lacks specific regulations addressing human oversight in ai applications. however, indirect references to oversight responsibilities can be found in legal provisions such as articles 7 and 12 of the civil liability law, article 333 of the civil code, articles 69 and 112 of the maritime law, and article 15 of the mandatory insurance law of 2016. this article explores the nature of human oversight obligations in both legal systems by addressing what should be supervised, when oversight is required, and who bears the responsibility for supervision. it further highlights the uncertainties and gaps in the ai act 2024 and the potential risks of excessive reliance on providers for ensuring the safety infrastructure of high-risk ai systems.
|
|
Keywords
|
ai ,human-centric ,human oversight ,eu ai act ,automated decision-making
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|