شتاب دهنده مبتنی بر پردازش درون حافظه برای شبکه های عصبی ژرفبرای چهارمین کنفرانس ملی انفورماتیک ایران

یکی از چالشه ای اصلی در پردازش الگوریتم های یادگیری ماشین تنگنای پهنای باند حافظه است. شتابدهنده های درون حافظه پتانسیل رفع این مشکل را دارند. با این حال، راه حل مبتنی بر شتابدهنده ی درون حافظه برای رسیدگی به این مشکل با دو چالش رو به رو است. اول این که، شتاب- دهندهی درون حافظه باید از مجموعه ی بزرگی از الگوریتمهای یادگیری ماشین پشتیبانی کند. دوم این که، راهحل باید به اندازه کافی کارآمد باشد تا از پهنای باند مناسب بهرهمند شود در حالیکه محدودیتهای توان و مساحت لایهی منطقی حافظه ی پشتهای سهبعدی را رعایت کند. در این مقاله ما یک شتاب دهندهی ناهمگن )به نام puzzle( پیشنهاد میکنیم که ابتدا الگوهای پردازشی مشابه در الگوریتم های یادگیری ماشین را شناسایی میکند. در ادامه برای هر الگو یک واحد پردازشی پیشنهاد میکند. واحدهای پردازشی در لایهی منطقی یک حافظه ی پشتهای سه بعدی قرار میگیرند و از پهنادی بالای این حافظه ها بهره میبرند. علاوه بر این واحدهای پردازشی، مکانیزم پیشنهادی امکان اتصال به واحدهای پردازشی همهمنظوره مانند پردازنده مرکزی و پردازنده گرافیکی را دارد. نتایج ارزیابی در ١٢ الگوریتم معروف یادگیری ماشین نشان می دهد که مکانیزم پیشنهادی از شتاب دهندههای پیشرفته امروزی با حافظه پشته ای سه بعدی از نظر کارایی و بهرهوری انرژی به ترتیب ١.٥ برابر و ٢٩ برابر بهتر عمل می کند.