توسعه نرم‌افزارهای مقاوم در برابر حملات هوش مصنوعی (چارچوب‌ نرم‌افزارهای مقاوم برابر حملات مبتنی بر هوش مصنوعی همدون حملات adversarial )

حملات adversarial به تغییرات جزئی در ورودی‌های مدل‌های یادگیری ماشین اطلاق می‌شود که هدف آن فریب مدل‌ها و کاهش دقت پیش‌بینی‌های آن‌ها است. این نوع حملات یکی از بزرگ‌ترین چالش‌ها در امنیت سیستم‌های هوش مصنوعی محسوب می‌شود. هدف از این پژوهش بررسی روش‌های مختلف مقاوم‌سازی مدل‌های یادگیری ماشین در برابر این حملات و ارزیابی تاثیر آن‌ها بر دقت و عملکرد مدل‌ها است.روش تحقیق این پژوهش تجربی است که در آن، ابتدا حملات adversarial مانند fgsm و pgd شبیه‌سازی شده و سپس تکنیک‌های مقاوم‌سازی شامل آموزش با داده‌های adversarial، regularization و distillation بر روی مدل‌های یادگیری ماشین اعمال شد. مدل‌ها پس از اعمال این تکنیک‌ها ارزیابی شدند و عملکرد آن‌ها در مواجهه با حملات adversarial مقایسه گردید. معیارهای ارزیابی شامل دقت (accuracy)، مقاومت (robustness) و زمان آموزش بودند. یافته‌ها نشان دادند که مدل‌های مقاوم‌سازی‌شده با استفاده از روش‌های مختلف، به‌طور قابل توجهی در برابر حملات adversarial مقاوم‌تر از مدل‌های بدون مقاوم‌سازی بودند. مدل‌های آموزش‌دیده با داده‌های adversarial دقت 92% را در برابر حملات نشان دادند، در حالی که مدل‌های بدون مقاوم‌سازی تنها 75% دقت داشتند. همچنین، استفاده از تکنیک‌های regularization و distillation باعث افزایش دقت مدل‌ها به 88% و 90% شد. با این حال، تکنیک‌های مقاوم‌سازی زمان آموزش مدل‌ها را افزایش دادند، به‌ویژه در استفاده از distillation که زمان آموزش را به 70 دقیقه رساند.نتیجه‌گیری این پژوهش این است که ترکیب چندین روش مقاوم‌سازی می‌تواند به‌طور موثری مقاومت مدل‌ها را در برابر حملات adversarial افزایش دهد. همچنین، بهبود روش‌های مقاوم‌سازی و یافتن تعادل میان دقت و زمان آموزش همچنان از چالش‌های اصلی در این زمینه باقی می‌ماند.