کاربرد مدل دو پارامتری لوجیت آشیانه‌ای در شناسایی منابع dif در سوال‌های چندگزینه‌ای

مشخص کردن گزینه‌های انحرافی به‌عنوان منابع کنش افتراقی سوال (dif) در سوال‌های چند ارزشی اهمیت بسزایی برای طراحان و تحلیل گران سوال دارد. هرچند dif روش ‌معمول بررسی تغییرناپذیری اندازه‌گیری است؛ این رویکرد به‌خصوص در سوال‌های چندگزینه‌ای با چالش‌ها و محدودیت‌هایی همراه است. هدف این مطالعه، ارزیابی رویکرد لوجیت آشیانه‌ای (nlm) در شناسایی سوال‌های حاوی کنش افتراقی گزینه‌های انحرافی (ddf) با استفاده از روش تحقیق آزمایشی (داده‌های شبیه‌سازی) و روش توصیفی-تحلیلی (داده‌های واقعی) بود. 6 سوال، تحت شرایط مختلف دشواری و شیب، توزیع توانایی، وجود یا نبود کنش افتراقی و بزرگی dif/ddf با نمونه‌ای به حجم 2000 و با 50 تکرار شبیه‌سازی شد. همچنین، داده‌های فرم d آزمون ریاضی کنکور 1397 با نمونه‌ای تصادفی به حجم 2000 مرد و زن، نمونه واقعی را تشکیل می‌داد. بر اساس نتایج تحلیل داده‌های شبیه‌سازی: رویکرد لوجیت آشیانه‌ای به‌طور متوسط 88 درصد سوال‌های dif دار و 97 درصد سوال‌های ddf دار تحت شرایط مختلف را آشکار نمود. نرخ خطای نوع اول در اغلب شرایط بسیار نزدیک به ارزش‌های مورد انتظار نظری بود هرچند در شرایط توزیع نابرابر، مقداری تورم خطا نشان داد. بر اساس یافته‌های شبیه‌سازی، نرخ تشخیص کنش افتراقی متاثر از پارامترهای سوال (دشواری و شیب) بود و با افزایش سطح dif و یا ddf نرخ رد افزایش می‌یافت. مبتنی بر تحلیل داده‌های واقعی، 2 سوال به‌طور هم‌زمان هردوی dif (بزرگ و متوسط) و ddf (جزئی تا متوسط) را به نمایش گذاشت، درحالی‌که در رویکرد رقیبِ پاسخ اسمی، 11 سوال به‌عنوان سوال با کنش افتراقی شناسایی شد؛ بنابراین همان‌طور که انتظار می‌رفت رویکرد nlm مبتنی بر استراتژی «تقسیم‌بر گزینه‌های انحرافی» تعداد سوال‏های کمتری را به‌عنوان dif / ddf دار ردگیری نمود. رویکرد دومرحله‌ای مدل لوجیت آشیانه‌ای، ضمن تفکیک آزمون ddf از dif، امکان ارزیابی روشن از اینکه آیا گزینه‌های انحرافی مسئول احتمالی dif هستند را میسر می‌سازد. ازآنجاکه آزمون‌های سرنوشت‌ساز نقش ویژه‌ای در گزینش افراد دارند و تحلیل‌های dif و ddf جایگاه ویژه‌ای در تعیین اعتبار و نامتغیر بودن اندازه‌گیری سوال‌های این آزمون‌ها دارند، پیشنهاد می‌شود جهت سرند کردن سوال‌های سودار تحلیل‌های جامع dif / ddf مبتنی بر رویکردهای لوجیت آشیانه‌ای مورداستفاده قرار گیرد.

application of two-parameter nested logit model in identifying the source of dif in multiple-choice items

identifying distractors as sources of differential item functioning(dif) in polyotomous items has great importance to designers and analysts. although dif is one of the common methods for examining the measurement invariance, it is accompanied by challenges and limitations, especially in multiple choice items. the purpose of this study was to assess the performance of nested logit model(nlm) for detecting differential distractor functioning(ddf) by using experimental (simulated data) and descriptive-analytical (real data) methods. six items were simulated under different conditions of difficulty and slope, ability distribution, presence or absence of dif/ddf, and dif/ddf magnitude, with a sample size of 2000 and 50 replicates. the data of math entrance exam (d-form,2018), with a random sample of 2000 men and women constituted the real data. based on the results of the simulation analysis: the nlm revealed 88% of dif and 97% of ddf, on average. the type i error rates is very close to the theoretical expected values, although it showed some inflation in unequal distribution conditions. according to the findings, the detection rate was influenced by the item parameters(difficulty and slope) and the dif or ddf levels. based on real data analysis, 2 items represented both dif(large and medium) and ddf (partial to moderate) simultaneously, whereas in the nrm approach, 11 items detected as dif/ddf; so, as expected the approaches based on “divided by distractor” strategy, fewer items were detected as dif/ddf. the nlm approach, while separating the ddf from the dif test, allows for a clear evaluation of whether the distractor may be responsible for dif. since high-stakes tests have a special role in selection and dif and ddf analyzes have a special place in determining the validity and measurement invariance of these exam items, it is recommended to screen the bias items, dif/ddf comprehensive analyzes based on nlm be used.