بهبود پیش‌بینی هزینه‌های بیمه درمانی در یادگیری ماشین با رویکردی الهام‌گرفته از rag: تولید ویژگی و بازیابی نمونه

پیش‌بینی دقیق هزینه‌های بیمه درمانی یکی از چالش‌های مهم در سیستم‌های بهداشتی و مدل‌های یادگیری ماشین است. در این مطالعه، یک چارچوب نوین ترکیبی برای بهبود عملکرد مدل‌های رگرسیونی ارائه می‌شود که از اصول معماری rag (بازیابی-تقویت‌شده-تولید) در مدل‌های زبانی بزرگ (llm) الهام گرفته که بدون استفاده واقعی از llm، در حوزه داده‌های ساختاریافته به کار گرفته شده است. در این چارچوب، با استفاده از 6 ویژگی اولیه داده شده که عبارتند از سن، جنسیت، شاخص توده بدنی، تعداد فرزندان، وضعیت سیگاری بودن و منطقه جعفرافیایی، عملیات تولید (generation) از طریق مهندسی ویژگی و ایجاد 5 ویژگی معنادار جدید (از جمله تعامل bmi-سن و دسته‌بندی منطقه-سیگاری) شبیه‌سازی می‌شود، در حالی که عملیات بازیابی (retrieval) از طریق نمونه‌گیری بوت‌استرپ و افزایش 5 برابری داده‌های آموزشی محقق می‌شود. این دو فرآیند، به ترتیب معادل تولید دانش و بازیابی نمونه‌های مشابه در rag هستند. پس از پیش‌پردازش و انتخاب ویژگی، چهار مدل پایه (رگرسیون خطی، جنگل تصادفی، xgboost و گرادیان بوستینگ) آموزش داده شده و با استفاده از مدل ترکیبی stacking، پیش‌بینی نهایی تولید می‌شود. نتایج نشان می‌دهد که بهترین عملکرد توسط مدل stacking ensemble به دست آمده است که دقت بی‌سابقه‌ای با ضریب تعیین (r²) برابر با 0.9984 کسب کرده است. تحلیل مقایسه‌ای نشان می‌دهد که افزایش نمونه‌ها (بازیابی) تاثیر بسیار چشمگیری نسبت به مهندسی ویژگی داشته است. این مطالعه نشان می‌دهد که اصول rag را می‌توان فراتر از پردازش زبان طبیعی به مسائل رگرسیونی ساختاریافته تعمیم داد و چارچوبی نوین برای یادگیری ماشین الهام‌گرفته از rag ارائه می‌دهد.