ارائه یک مدل مقاوم در برابر حملات مخرب برای شناسایی اشیاء مبتنی بر یادگیری عمیق

شبکه های عصبی عمیق علیرغم تمامی مزایا و ویژگیهای مثبتی که دارند در برابر حملات خصمانه بسیار آسیب پذیر هستند. این آسیب پذیری باعث شده است که دقت خصمانه آشکارسازهای اشیاء به طور قابل توجهی کاهش یابد با وجود تحقیقات فراوانی که در این حوزه به عمل آمده است اما کماکان دقت خصمانه شبکه های عصبی عمیق در برابر حملات مخرب پایین است و به مقدار قابل قبول و مطلوبی نرسیده است. ،همچنین با توجه به پیشرفت سریع در حوزه حملات خصمانه و ظهور حملات جدیدتر و پیچیده تر، مقاوم سازی این شبکه ها در برابر حملات خصمانه کار دشواری شده است.در این مقاله یک روش جدید مبتنی بر هیستوگرام برای مقاوم سازی آشکارسازهای اشیاء در برابر حملات خصمانه معرفی شده است. درادامه این روش بر روی دو مدل آشکارساز yolov5 و frcnn اعمال شده و از این طریق دو مدل مقاوم در برابر حملات معرفی شده است به منظور بررسی عملکرد مدلهای مذکور، فرآیند آموزش خصمانه این مدل ها با سه حمله هدفمند tog-tog-vanishing و یک حمله بدون هدف dag انجام شد. کارآیی مدلهای معرفی شده بر روی دو مجموعه داده mscoco و pascal voc که از مشهورترین مجموعه داده ها در حوزه شناسایی اشیاء هستند شد. نتایج نشان میدهند که این روش علاوه بر بهبود دقت بررسی خصمانه دقت پاک مدلهای شناسایی را نیز اندکی بهبود میبخشد میانگین دقت پاک مدل yolo5-1 برای مجموعه داده pascal voc در صورتی که حملات خصمانه به آن اعمال شوند در حالتی که هیچ روش دفاعی اعمال نشده باشد برابر با 85/5٪ و در حالتی که روش هیستوگرام به آن اعمال شده است میانگین دقت برابر با 87/36٪ شده است در مدل 1-yolov5، طبق نتایج بهترین دقت خصمانه این مدل که نسبت به سایر مدلهای دیگر افزایش داشته است در حالت حملات tog-- که به ترتیب برابر 48 و 52/36 هستند. نکته حائز اهمیت این است که سرعت این روش نسبت به روشهای قبلی بیشتر است و فرآیند آموزش با سرعت بالاتری انجام میشود زیرا روش هیستوگرام دارای پارامترهای قابل آموزش نمیباشد در ،پایان جهت اطمینان یافتن از عملکرد روش پیشنهادی نتایج حاصل از این مقاله با نتایج کارهای مشابه قبلی مقایسه شد. نتایج این مقایسه نشان میدهد که روش ارائه شده در این پژوهش در اکثر حالات و بر روی مجموعه داده های مذکور عملکرد بهتری نسبت به روشهای مشابه قبلی داشته است.

a robust model against adversarial attacks for object detection based on deep learning

in this paper, a new histogram based method is introduced to make object detectors resistant to hostile attacks. in the following, this method was applied to two object detector models, yolov5 and frcnn, and in this way, two models resistant to attacks were introduced. in order to verify the performance of the mentioned models, we performed the adversarial training process of these models with three targeted attacks tog vanishing, tog mislabeling, and tog fabrication and one untargeted attack, dag. we have checked the efficiency of the introduced models on two data sets mscoco and pascal voc, which are among the most famous data sets in the field of object recognition. the results show that this method, in addition to improving the adversarial accuracy, also improves the clean accuracy of the object detector models to some extent. the average clean accuracy of the yolov5 n model for the pascal voc dataset, if adversarial attacks are applied to it, in the case where no defense method is applied, is 85.5%, and in the case where the histogram method is applied, the average accuracy is equal to with 87.36%. in the yolov5 n model, according to the results, the best adversarial accuracy of this model, which has increased compared to other models, is in tog vanishing and tog fabrication attacks, which are 48% and 52.36%, respectively.