سوگیری هوش مصنوعی علیه زنان در حوزه سلامت

زمینه و هدف: هوش مصنوعی یکی از بازیگران کلیدی انقلاب صنعتی چهارم است. امروزه نمی‌توان مزایای زیادی را که هوش مصنوعی برای جوامع مدرن فراهم می‌نماید، جایی که داده‌ها به گران‌بهاترین دارایی زمان ما تبدیل شده‌اند، کتمان نمود. به طور مثال باید اشاره داشت، استفاده از این فناوری در محدوه قوانین موجود به حمایت از حقوق زنان کمک می‌نماید. با این حال، هوش مصنوعی یک جنبه تاریک را نیز آشکار می‌کند؛ سوگیری‌ها، در میان خطرات دیگری که توسط هوش مصنوعی تجسم می‌یابد، می‌تواند مستقیماً بر حقوق بشر و عمدتاً حقوق آسیب‌پذیرترین گروه‌ها، از جمله زنان، به ویژه در حوزه سلامت تاثیر بگذارد. حق بر سلامت، یکی از حقوق بنیادین بشری است که از سوی نظام حقوق بین‌الملل به رسمیت شناخته شده و از جایگاه ویژه‌ای برخوردار است. این حق که توسط تمامی کشورها مورد تصدیق قرار گرفته است، مستلزم فراهم‌کردن خدمات مطلوب سلامت و در دسترس قراردادن آن برای همگان تحت شرایط برابر است. سوال اصلی این پژوهش آن است که آیا هوش مصنوعی رویکردی خنثی یا سوگیرانه علیه زنان در حوزه سلامت دارد؟ روش: روش بررسی این پژوهش، تحلیلی توصیفی می‌باشد و شیوه‌ گردآوری اطلاعات، کتابخانه‌ای است.ملاحظات اخلاقی: در پژوهش حاضر، جنبه‌های اخلاقی مطالعه کتابخانه‌ای شامل اصالت متون، صداقت و امانتداری رعایت شده است.یافته‌ها: فرضیه نگارندگان آن است که به نظر می‌رسد نوعی سوگیری تبعیض‌آمیز علیه زنان در حوزه سلامت وجود دارد. به طور کلی اگر هوش مصنوعی‌ای که دارای سوگیری است و الگوریتم‌های آن با مجموعه داده‌هایی آموزش دیده‌اند که برخی از گروه‌ها را نادیده می‌گیرد، به عنوان یک رویکرد تشخیصی یا درمانی برای بیماران استفاده شود، ممکن است در تشخیص یا درمان کل بیماران، مانند اقلیت‌های قومی و جنسیتی، مهاجران، کودکان، سالمندان و افراد دارای معلولیت، نتیجه مطلوبی نداشته باشد، در نتیجه سوگیری در مراقبت‌های بهداشتی باعث می‌شود که برخی از گروه‌های بیماران، درمان پزشکی بهتری نسبت به سایرین دریافت کنند.نتیجه‌گیری: در حالی که مزایای واقعی و بالقوه بسیاری از استفاده از هوش مصنوعی در مراقبت‌های بهداشتی وجود دارد، یک خطر مهم، تصمیم‌گیری ناقص یا بحث‌برانگیز ناشی از سوگیری‌های انسانی تعبیه‌شده در خروجی‌های هوش مصنوعی است که می‌تواند پیامدهای قابل توجهی برای مراقبت‌های بهداشتی داشته باشد، در نتیجه باید در پی جلوگیری از چنین سوگیری‌هایی بود. در اینجا چند راه حل وجود دارد که می‌توان برای کاهش و حذف سوگیری اجرا نمود: استفاده‌کردن از مجموعه داده‌های بزرگ‌تر با تنوع بیشتر؛ شفافیت؛ استفاده از اصول طراحی مبتنی بر جنسیت؛ ممیزی منظم، استفاده از دستورالعمل‌های اخلاقی؛ به کارگیری تیم‌های تحقیق متنوع؛ قانونگذاری و نظارت؛ آموزش و آگاهی؛ بهبود و به روزرسانی و در نهایت همکاری توسعه‌دهندگان و فعالان مراقبت بهداشتی به منظور جلوگیری از سوگیری، می‌توانند راهکارهای موثر در این باب باشد.

artificial intelligence bias against women in the field of health

background and aim: artificial intelligence is one of the key players in the fourth industrial revolution. today, it is impossible to ignore the many benefits that artificial intelligence provides for modern societies, where data has become the most valuable asset of our time. for example, it should be noted that the use of this technology, within the scope of existing laws, helps to protect women's rights. however, artificial intelligence also reveals a dark side; biases, among other risks embodied by artificial intelligence, can directly affect human rights and mainly, the rights of the most vulnerable groups, including women, especially in the area of health. the right to health is one of the fundamental human rights recognized by the international legal system and holds a special position. this right, approved by all countries, requires providing desirable health services and making them available to everyone under equal conditions. the main question of this research is whether artificial intelligence has a neutral or biased approach towards women in the field of health?method: the research method of this study is analytical-descriptive and the method of collecting information is the library-based.ethical considerations: in all stages of writing the present research, the ethical aspects of library-based study including the originality of the texts, honesty and trustworthiness have been observed.results: the authors hypothesize that there is a discriminatory bias against women in the field of health. in general, if artificial intelligence algorithms, which are biased and trained with datasets that ignore certain groups, are used for diagnosis or treatment, it may negatively impact the outcomes for entire patient groups, such as ethnic and gender minorities, immigrants, children, the elderly and people with disabilities. as a result, bias in healthcare causes some groups of patients to receive better medical treatment than others.conclusion: while there are many real and potential benefits of using artificial intelligence in healthcare, a significant risk is flawed or controversial decision-making due to human biases embedded in ai outputs, which can have significant implications for healthcare. as a result, such biases should be avoided. here are some solutions that can be implemented to reduce and eliminate bias: use larger datasets with more diversity; transparency; use gender-based design principles; regular auditing, use of ethical guidelines; employing diverse research teams; legislation and supervision; education and awareness; improvement and updating and finally cooperation of health care developers and activists to prevent bias can be effective solutions in this regard.