مروری بر روش های یادگیری انتقالی عمیق

یادگیری عمیق پاسخ بسیاری از مشکلات یادگیری ماشین در دو دهه گذشته بوده است. با این حال، با دو محدودیت قابل توجه همراه است: وابستگی به داده های برچسب گذاری شده گسترده و هزینه های آموزشی. یادگیری انتقالی در یادگیری عمیق، که به عنوان یادگیری انتقال عمیق شناخته می‌شود، تلاش می‌کند تا با استفاده مجدد از دانش به‌دست‌آمده از داده‌ها، این چنین اتکا و هزینه‌هایی را کاهش دهد. بیشتر تکنیک‌های یادگیری انتقال عمیق کاربردی، رویکردهای مبتنی بر شبکه/مدل هستند. این روش ها وابستگی مدل های یادگیری عمیق به داده های آموزشی گسترده را کاهش داده و هزینه های آموزشی را به شدت کاهش می دهد. علاوه بر این، کاهش هزینه آموزش باعث می شود یادگیری انتقال عمیق روی دستگاه های لبه با منابع محدود قابل اجرا باشد. مانند هر پیشرفت جدید، روش های یادگیری انتقال عمیق محدودیت های خاص خود را دارند و انتقال یادگیری موفق به تنظیمات و استراتژی های خاص برای سناریوهای مختلف بستگی دارد. این مقاله به بررسی مفهوم، تعریف و طبقه بندی یادگیری انتقال عمیق و روش های شناخته شده می پردازد. این روش رویکردهای یادگیری انتقال عمیق را با مرور تکنیک‌های کاربردی یادگیری انتقال عمیق در چند سال گذشته و چند تحلیل تجربی از یادگیری انتقال عمیق برای کشف بهترین روش برای استفاده از یادگیری انتقال عمیق در سناریوهای مختلف بررسی می‌کند. علاوه بر این، محدودیت‌های یادگیری انتقال عمیق (معضل فراموشی فاجعه‌بار و مدل‌های از پیش آموزش‌دیده بیش از حد مغرضانه) همراه با راه‌حل‌های احتمالی مورد بحث قرار می‌گیرند.