مدل‌سازی خطی و تحلیل رگرسیون: مروری کوتاه بر مزایا و معایب مدل‌سازی خطی و شرایط استفاده از مدل رگرسیون

مقدمه: امروزه بسته‌های نرم‌افزاری قدرتمند و کاربردی، تحلیل داده‌ها را ساده کرده و در نتیجه کاربرد علم داده را در تمام زمینه‌های تحقیقاتی توسعه داده است. بر این اساس، رگرسیون تقریباً در تمام جنبه‌های علوم‌زیستی، از سلامت انسان گرفته تا کشاورزی و علوم دامی اعمال شده است. اما در دهه‌های گذشته اشتباهات شایان توجهی در استفاده از این مدل گزارش شده است. هدف از این مقاله بررسی مدل‌سازی با این روش مهم آماری و آشنا کردن خوانندگان جهت کاربرد درست این روش و مفروضات و شرایط استفاده از آن است.مواد و روش‌ها: در این مقاله مروری از داده‌های واقعی استفاده گردیده است و نحوه انجام تحلیل‌های انجام شده در نرم‌افزارهای آماری sas و r و کدهای مربوط به آنها در قسمت پیوست آورده شده است.یافته‌ها: در مفروضات مورد نیاز مدل رگرسیونی، باقیمانده‌های مدل باید به طور نرمال توزیع شده باشند، اما انجام آزمون نرمال بودن برای مقادیر واقعی متغیر پاسخ یا هر یک از متغیرهای مستقل اجباری نیست. از سوی دیگر، تقریباً تمام روش‌های تست توزیع نرمال، مانند kolmogorov-smirnov، برای تعداد زیاد داده، طراحی شده‌اند. این نشان می‌دهد که استفاده از چنین روش‌هایی برای آزمون نرمال بودن باقیمانده‌های مدل تخمین زده شده بر اساس تعداد داده پایین، عمدتاً کمتر از صد مورد، چندان دقیق نخواهد بود. موضوع دیگر مربوط به هم‌خطی بین متغیرهای مستقل است. باید به این نکته توجه کرد که یافتن ضریب همبستگی برابر با صفر (r = 0) حتی بین هر جفت متغیر تصادفی جداگانه بسیار دشوار است. بنابراین در تمامی مدل‌های رگرسیونی به نوعی همبستگی بین متغیرهای مستقل وجود خواهد داشت، اما موضوع مهم این است که فقط همبستگی زیاد باعث ایجاد مشکلات شدید در مدل می‌شود. پیشنهاد می‌گردد که به جای استفاده از روش ساده همبستگی از روش‌های تخصصی مانند ضریب تورم واریانس (vif) یا تجزیه و تحلیل مولفه اصلی (pca) برای تشخیص شدت هم‌خطی استفاده گردد. یکی دیگر از مفروضات رگرسیون مربوط به  خطی بودن مدل است که گاهی تبدیل این مشکل را برطرف کند. باید توجه شود که تبدیل داده‌ها منجر به تغییر واحد متغیرها یا تغییر جهت برداری آنها در یک فضای هندسی و در برخی موارد تغییر ساختار صحیح آنها می شود.نتیجه‌گیری: در مدل رگرسیون با افزایش تعداد داده، درجه آزادی خطا ​​به سرعت افزایش می یابد و میانگین مجذور خطای نهایی به میزان قابل توجهی کاهش می یابد. مقدار کم میانگین‌مربعات‌خطا منجر به یک مدل بسیار معنی‌دار می‌شود. در مقابل، پراکندگی نقاط داده در اطراف خط رگرسیون ممکن است بسیار گسترده باشد. به همین دلیل، استفاده از ضریب‌تبیین که معمولاً معیار مناسبی برای تست برازش مدل است. هرچه پراکندگی نقاط مربوط به داده‌ها در اطراف خط رگرسیون گسترده‌تر باشد، مقدار ضریب تعیین کمتر است. مقادیر بالای این ضریب نشان دهنده مدل مناسب برای مجموعه داده‌های مورد استفاده است. یک مقدار مناسب برای ضریب‌تبیین را نمی توان بین دامنه‌ای از مقادیر برای همه آزمایش‌ها توصیه کرد.

linear modeling and regression analysis: a mini-review over regression pros and cons

introduction: powerful and practical statistical packages have simplified the analysis and thus developed the application of data science in all research fields. accordingly, regression has been applied to almost all aspects of the life sciences. however, misuse of this model has been reported in the past decades. this article aims to examine modeling with this important statistical method and introduce readers to the correct use of this method.materials and methods: this review article uses real data, and the supplementary materials provide the method for performing the regression analysis in sas and r statistical software and their related codes.results: in the required assumptions of the regression model, the residuals of the model must be normally distributed, but performing the normality test for the actual values ​​of the response variable or any of the explanatory variables is not mandatory. therefore, researchers should not obsess more than necessary about the normal distribution of real data. on the other hand, almost all normality test methods, such as kolmogorov-smirnov, are designed for large numbers of data, typically more than a thousand samples. this suggests that using such methods to test the normality of model residuals estimated from a small number of data, mostly less than a hundred cases, would be inaccurate. another issue regarding applying the regression model is related to the co-linearity of the explanatory variables. there are still signs of correlation in a data set where all variables are generated separately and randomly in a statistical package. this means that it is very hard to find a correlation coefficient equal to zero (r = 0) even between any pair of separate, random variables. therefore, in all regression models, there are some kinds of correlation between explanatory variables, but the important issue here is that only high correlation causes severe problems in the model. for collinearity test it would be better to use specialized methods such as variance inflation factor (vif) or principal component analysis (pca). the linearity of the model is one other assumption of regression model. data transformation might be helpful under the situation of non-linearity of the model. however, transformation changes the variables unit, altering the array direction in a geometric space. researchers should be careful regarding the use of modeling a large number of data affects the probability values ​​in variance analysis due to increasing the value of the degree of freedom of the model.conclusion: as the number of data points increases, the degree of freedom of the error term increases rapidly. therefore, the final error mean squared significantly reduces. in contrast, the scatter of data points around the regression line may be too wide. for this reason, using the coefficient of determination, usually called (r-squared), is a suitable criterion for testing the model's fit. high coefficient values indicate a suitable model for the data set used. it should be noted that in a multiple regression model, the higher the number of explanatory variables used in the model, the higher the value of this coefficient increases. for such conditions, when the number of explanatory variables is large, another form of this coefficient, called the adjusted coefficient of determination (adjusted r2), has been introduced. the use of this coefficient in the approximations creates a limit on the number of variables used in the regression model. accordingly, the number of variables in the model as explanatory variables should not exceed the number of samples (or the number of tens) in a set, and researchers should avoid using more variables than the number of samples.