سنجش شباهت نظرات داوری آزاد و محتوای مقالات علمی به‌روش پردازش زبان طبیعی

هدف: شناسایی قابلیت داوری‌های آزاد در بازشناخت مقالات پزشکی براساس شباهت آنها به مقالات مربوط. روش‌شناسی: آزمونی متشکل از 2212 مقاله اف‌هزار ریسرچ و نظر‌ات داوری آنها ساخته شد. 100 مقاله به‌عنوان مدرک پایه به صورت تصادفی انتخاب شد. شباهت نظرات داوری و محتواهای مدارک براساس سنجۀ شباهت کسینوسی مقادیر tfidf در سطح تک‌واژه‌ها و دوواژه‌ها محاسبه شد. شباهت محتوا و نظرات با تحلیل همبستگی اسپیرمن تحلیل شد. صحت پیش‌بینی شباهت محتوای مقالات براساس شباهت نظرات دریافت‌شده به‌کمک منحنی مشخصه عملکرد سامانه آزمون شد. یافته‌ها: توان نظرات داوران در بازشناخت مقالات مشابه تایید شد. میان محتوا و نظرات، همبستگی معنادار وجود دارد. منحنی‌های تحلیل عملکرد سامانه نیز نشان داد شباهت نظرات داوری، خواه در سطح تک‌واژه‌ها و خواه دوواژه‌ای‌ها توانایی شناسایی مقالات با محتوای مشابه را دارد. نتیجه‌گیری: اعتبار نظرات داوران ریشه در توان تخصصی و شناختی آنان دارد. بنابراین، نظرات می‌توانند در شبکه مدارک، در زمره منابع مرتبط اثربخش در بازشناخت مدارک به‌شمار آیند. این یافته راه را برای پژوهش در کاربرد نظرات کاربران در حوزه‌های بازیابی، ارزیابی، یا طبقه‌بندی متون هموار می‌کند که شباهت محتوایی در آنها اهمیت دارد.

Measuring Similarities between Open Peer Review Comments and Contents of Scientific Articles: a Natural Language Processing Technique Inquiry

Purpose: The social web provides a platform for publicizing open peer review reports. In this sphere, journal readers, authors, editors, and reviewers can involve in multilateral discussions on the reviewed papers and share their comments and viewpoints on the merits and probable pitfalls of papers. Open peer review comments may, hence, reflect the features of their mother articles. To identify this potential, the present study investigates to what extent similar comments accurately predict similar papers. Methodology: Applying natural language processing techniques, it analyzes the contents of a sample of papers in medicine and life sciences and the comments received by them. To do so, a test collection is built from the papers openly published on F1000Research, an open access publishing platform that adheres to an open peer reviewing process by transparently providing the public with peer review reports, authors’ responses, and users’ comments. The test collection consists of 2212 papers and their comments. 100 papers are randomly selected as seed documents that serve as queries. The similarities between the comments and the contents of the papers are calculated using Cosine similarity of TFIDF values. The TFIDF values are calculated for both unigrams and bigrams extracted from the contents and comments. The correlation between the content and comment similarities is analyzed using Spearman correlation, given the nonnormality of the data distributions. The accuracy of prediction of the papers’ content similarity by the similarity of their comments is tested using Receiver Operating Characteristic (ROC) curves. Findings: The results of the Spearman correlation revealed a significant correlation between the content and comment similarities. This signifies that similar papers are more likely to receive similar comments and vice versa. The ROC curves show that similar comments can significantly identify similar papers, either at unigram or bigram level. The prediction is highly accurate. Conclusion: Similar comments are effective in representing similar papers. In other words, similar comments are expected to present similar papers. This finding has implications for interactive information retrieval systems, where users are interested in reading experts’ comments on a given paper before viewing or downloading the paper itself. The findings also may pave the path towards new studies about the application of the comments in such spheres as information retrieval, evaluation or classification, where content similarity is of importance.