مرور نظام‌مند و ساختارمند پژوهش‌های مرتبط با به‌کارگیری هوش مصنوعی توضیح‌پذیر در سامانه‌های تشخیص نفوذ شبکه

این مقاله مروری به بررسی ترکیب سه حوزه‌ی هوش مصنوعی توضیح‌پذیر ٬ سامانه‌های تشخیص نفوذ و حملات خصمانه می‌پردازد. هدف آن روشن کردن مسیرهای پژوهش در این زمینه‌ها با روشن کردن انواع روش‌های توضیح‌پذیری٬ تاثیر توضیح‌پذیری بردقت تشخیص در سامانه‌های تشخیص نفوذ٬ سوء استفاده‌ی حمله‌کنندگان از توضیح‌پذیری در قالب ساختن داده‌های خصمانه و روش‌های مقابله با آن است. برای دستیابی به یک مرور شفاف و سیستماتیک٬ فرآیند شناسایی و غربال‌گری با رویکرد گزارش‌دهی prisma 2020 و اصول مستندسازی کیچنهام و چارترز انجام شد. با توجه به جدید بودن موضوع٬ در ابتدا از مقالات پایه‌ای برای تعاریف مهم در این زمینه استفاده شد٬ سپس تعدادی از مقالات معتبر داوری شده جهت معرفی بیشتر روش‌ها و ابزارهای رایج در این زمینه مورد ببرسی قرار گرفت. نتایج در مقالات نشان می‌دهد بسته به نوع هدف پژوهش برای توضیح‌پذیری می‌توان از ابزارهای رایجی مانند shap و lime به صورت جداگانه یا ترکیبی بهره برد. همچنین زمینه‌های پژوهش در انتخاب٬ حذف و یا جایگزینی ویژگی‌های مهمی که با کمک این ابزار بدست آمده مورد بررسی قرار گرفت. در نهایت برای دستیابی به یک ساختار نظام‌مند در این زمینه٬ مطالعاتی مربوط به سوء استفاده از این ابزار برای ساخت داده‌های خصمانه و در مقابل آن تلاش برای شناسایی چنین مواردی در سامانه‌های تشخیص نفوذ نیز بررسی شد٬ تا پژوهش‌گر دید کاملی به سیر تکامل موضوعات مربوط به این زمینه پیدا کند. همچنین مهم‌ترین شکاف‌های پژوهشی حال حاضر در این زمینه نیز مشخص شدند.

a systematic review of research on the application of explainable artificial intelligence in network intrusion detection systems

this review article examines the integration of three fields: “explainable artificial intelligence,” “intrusion detection systems,” and “adversarial attacks.” its goal is to clarify research directions in these areas by outlining different types of explainability methods, the impact of explainability on detection accuracy in intrusion detection systems, attackers’ misuse of explainability to generate adversarial data, and approaches for countering such attacks. to provide a clear and systematic review, the identification and screening process was carried out based on the prisma 2020 reporting approach and the documentation principles proposed by kitchenham and charters. given the novelty of the topic, foundational papers were first used to define key concepts in this area; then, a number of reputable peer-reviewed articles were examined to further introduce common methods and tools used in this domain. findings in the literature indicate that, depending on the research objective, explainability can be achieved using widely used tools such as shap and lime, either individually or in combination. research directions related to selecting, removing, or replacing important features identified through these tools were also discussed. finally, to establish a systematic structure in this field, studies on the misuse of these tools to generate adversarial data—and, conversely, efforts to detect such cases within intrusion detection systems—were reviewed, so that researchers can gain a comprehensive view of the evolution of topics in this area. the most important current research gaps in this field were also identified.