ウェスタン大学と東カリフォルニア大学に所属する研究者らが発表した論文「Tracking claim changes from preprint to publication across 72,644 biomedical studies using large language models」は、プレプリント(査読前論文)の信頼性を検証した研究報告である。
プレプリントのメリットと懸念
査読前の論文を公開するプレプリントは、研究成果をいち早く世界と無料共有できるメリットがある。arXivやbioRxivなどのプレプリント公開サイトでは膨大な件数が日々公開されている。しかし、査読を経ていないことから、その主張の信頼性を疑問視する声も一部に存在する。
そこで研究チームは、2018年から2025年の間にbioRxivに投稿され、その後査読済み論文として出版された7万2644組の論文ペアを対象に、大規模言語モデル(Claude Sonnet 4.6)を用いてその内容の変化を追跡した。
分析結果:主張の変化は限定的
分析の結果、査読によって論文の主要な主張が大きく変わるケースは稀であることが判明した。原著における主要な主張の内容は、全体の39.9%で変化がなく、50.0%が軽微な修正にとどまっており、大幅な修正が加えられたのは10.2%であった。
表現の確信度合いについては、全体の85.6%は査読前後で変化がなかった。表現に変化があったもののうち、より慎重な表現になった割合が8.4%、より自信に満ちた表現になった割合が4.2%であり、査読を通じて論文の主張が2倍の割合で慎重なトーンへと修正されていることがわかる。
査読期間やジャーナルの影響力との関連
さらに、査読期間の長さやジャーナルの影響力と修正の度合いには関連が見られた。査読期間が最も短いグループでの大幅な修正の割合は7.0%であったのに対し、最も長いグループでは14.1%に上昇した。
また、プレプリントとして公開されたかどうかが、その後の論文撤回率に与える影響も調査された。その結果、プレプリントとして公開されなかった論文は1万件あたり18.7件の割合で撤回されたのに対し、プレプリントとして公開された論文の撤回率は1万件あたり8.1件であった。つまり、プレプリントを経由しなかった論文は、経由した論文の約2倍の確率で撤回されていることになる。



