بررسی برنامه زمانبندی آگاه از دما برای محاسبات ناهمگن

با پیشرفت فناوری هوش مصنوعی بنابراین پارامترها و هزینه های محاسباتی مدل های پیشرفته به طور قابل توجهی افزایش می یابد. و به همین دلیل، gpu‌های پایین رده موجود (واحدهای پردازش گرافیکی) نمی‌توانند قدرت پردازشی مورد نیاز برای اجرای مدل‌ها را تامین کنند. برای افزایش سرعت استنتاج در نسخه جانبی بسیاری از تولیدکنندگان npu (واحدهای پردازش عصبی) را راه اندازی کرده‌اند که تراشه‌های ویژه‌ای برای شبکه‌های عصبی هستند. این می‌تواند کارایی کلی استنتاج را بهبود بخشد و مصرف انرژی را با کاهش دقت مشخص شده کاهش دهد. با این حال، پردازش مشترک cpu + gpu + npu در راه‌حل‌های اصلی فعلی به خوبی مورد توجه قرار نگرفته است. همزمان دستگاه‌های جانبی به راحتی تحت تاثیر دمای محیط قرار می‌گیرند.در این مقاله از cpu+gpu+npu برای توسعه یک کار استنتاج مشترک محیطی استفاده شده است. و ابتدا مدل‌های سنجش دما دستگاه‌های مختلف را بر اساس دمای محیط لوازم جانبی توسعه خواهیم داد. سپس tas پیشنهادی (تایمر سنجش دما) ... الگوریتمی برای کنترل سرعت اجرای ماشین‌های مختلف پیشنهاد کرد. سپس یک الگوریتم زمانبندی کار برای ماشین‌های مختلف به نام tasts (بر اساس tas-based task scheduler) به طور همزمان پیشنهاد کرد.

a review of temperature-aware scheduling for heterogeneous computing

with the advancement of artificial intelligence technology, the parameters and computational costs of advanced models increase significantly. and because of this, existing low-end gpus (graphics processing units) cannot provide the processing power required to run the models. to increase the speed of inference in the peripheral version, many manufacturers have launched npus (neural processing units), which are special chips for neural networks. this can improve the overall inference efficiency and reduce energy consumption by reducing the specified accuracy. however, cpu + gpu + npu joint processing is not well considered in current mainstream solutions. at the same time, the peripheral devices are easily affected by the ambient temperature. in this paper, cpu+gpu+npu is used to develop a joint environmental inference task. and first, we will develop the temperature measurement models of different devices based on the ambient temperature of the accessories. then proposed tas (temperature sensing timer) ... an algorithm to control the execution speed of different machines. then he proposed a task scheduling algorithm for different machines called tasts (based on tas-based task scheduler) simultaneously.