مطالعه حقوقی تبعیض الگوریتمی

استفاده از الگوریتم‌ها به‌ویژه هوش مصنوعی برای اخذ تصمیمات مختلف، مسائل و پرسش‌های حقوقی متعددی را برانگیخته است. یکی از این مسائل، تبعیض‌آمیز بودن تصمیمات الگوریتمی است. این تبعیض ممکن است در خصوص یک فرد یا گروه یا طبقه‌ای از افراد جامعه صورت گیرد. با توجه به وظیفه دولت‌ها برای مقابله با انواع تبعیض، شناسایی مصادیق و علل و تبعیض‌های الگوریتمی و ارائه راهکارهای مقابله با آن‌ها به یکی از موضوعات حقوقی روز تبدیل شده است. این مقاله، به بررسی این پرسش پرداخته است که تبعیض الگوریتمی چیست، چه عللی دارد و چگونه باید با آن مقابله شود؟ بدین‌منظور، ضمن تعریف و دسته‌بندی الگوریتم‌ها و تصمیمات الگوریتمی، دو دسته علل (مرتبط با داده‌های ورودی و مرتبط با طراحی و عملکرد) را برای تبعیض‌های الگوریتمی شناسایی کرده و تجربیات کشورهای پیشرو در زمینه مقابله با چنین تبعیض‌هایی را نیز دسته‌بندی، تبیین و نقد کرده است. با توجه به نبود قواعد خاصی برای حمایت از اشخاص در برابر چنین تصمیماتی در کشور ما، استفاده از نقاط قوت مجموع راهکارهای معرفی‌شده در مقاله، برای رفع این خلا قانونی پیشنهاد شده است.

algorithmic discrimination; legal analysis

using algorithms, especially artificial intelligence, to make different decisions, has raised many legal issues and questions. one of these issues is the discriminatory nature of algorithmic decisions. this discrimination may be against an individual, group or a class of people in the society. states have general obligation for elimination of any discrimination, including, algorithmic  ones. hence, identifying extensions and causes of algorithmic discrimination and providing solutions to deal with them has become one of the legal issues of nowadays. this article examines this question: what is algorithmic discrimination, what causes it, and how should it be addressed? to this end, while defining and categorizing algorithms and algorithmic decisions, the author has identifide two categories of causes (related to input data and related to design and performance) for algorithmic discrimination and by referring legal initiatives of leading countries regarding such discriminations as well as classifying various solutions. finally, due to the lack of special rules to protect individuals against such decisions in iran, the use of the strengths of all the solutions presented in the article has been suggested to fill this legal gap.