کاهش فاصله بین پیچیدگی الگوریتمهای یادگیری عمیق و قابلیت‌های سیستمهای نهفته بر بستر اینترنت اشیاء

شبکه‌های عصبی عمیق به یکی از رویکردهای غالب یادگیری ماشین در سال‌های اخیر برای بسیاری از حوزه‌های کاربردی تبدیل شده‌اند. بارگذاری محاسبات در فضای ابری اغلب به دلیل عدم اتصال، تاخیر بالا یا نگرانی‌های مربوط به حریم خصوصی محدود شده است. معماری‌های شبکه عصبی عمیق، اغلب وظایفی با منابع محاسباتی پیچیده هستند که نیاز به مقدار قابل‌توجهی ازcpu، gpu، حافظه و توان پردازشی دارند و بر روی سرورهای قدرتمند و تخصصی اجرا می شوند. با این حال بسیاری از این وظایف نیز حوزه‌های کاربردی مهمی برای سیستم‌های تعبیه شده با منابع محدود هستند. بنابراین شبکه های عصبی عمیق نیاز به بهینه سازی دارند، درغیر این صورت شکاف بین منابع موجود و منابع مورد نیاز به زمان های استنباط طولانی منجر می شود و اجرای برنامه های بلادرنگ را غیرممکن می کند. کاهش تعداد پارامترها لزوماً منجر به کاهش در زمان اجرا نمی شود، آنچه مهمتر است پراکندگی و سخت افزار زیربنایی است. در این مقاله به فعال کردن اجرای کارآمد استنتاج شبکه‌ عصبی عمیق در دستگاه های تعبیه‌شده با هدف کاهش میانگین زمان استنتاج با حداقل کاهش دقت می پردازیم. با هدف کاهش میانگین زمان استنتاج شبکه‌ عصبی عمیق و تا حد ممکن بدون کاهش دقت، از یک انتخابگر مدل استفاده می‌شود که به صورت پویا با در نظر گرفتن معیار ارزیابی و زمان استنتاج مورد نظر، تعیین می‌کند از کدام شبکه‌ عصبی عمیق برای یک ورودی داده شده استفاده شود.