Who Gets to Contest Science? Generative AI and the Democratization of Scientific Scrutiny

Abstract / 要旨

Abstract Generative AI is increasingly discussed as a technology that may democratize scientific production by lowering barriers to writing, coding, and analysis. Less attention has been paid to a parallel possibility: that it may lower barriers to scrutinizing scientific claims outside established evaluative roles. This article develops a conceptual account of that shift. It distinguishes access to scientific materials from the capability to interrogate them and argues that generative AI may contribute to a dual democratization of scientific production and scientific scrutiny. By assisting with statistical interpretation, code inspection, literature comparison, citation checking, and methodological reasoning, AI may distribute some evaluative capabilities beyond formal peer reviewers and institutionally recognized experts. This creates a capability–recognition mismatch: who can identify a potentially valid scientific problem may diverge from whose criticism institutions recognize. Yet expanded scrutiny also creates a quality-control problem. The same systems can lower the cost of pseudo-scrutiny, hallucinated objections, and technically sophisticated but unverifiable claims. The institutional challenge is therefore how to distinguish objections that merit escalation from those that do not. I argue for a layered governance principle: relatively open participation in detecting scientific problems, combined with progressively stronger requirements for provenance, reproducibility, evidentiary specificity, and expert adjudication before institutional consequences follow. Generative AI may democratize science not only by changing who can produce scientific claims, but also by changing who can practically challenge them.

要旨 生成AIは、執筆、コーディング、分析への障壁を下げることで、科学的知識の生産を民主化しうる技術 として論じられることが増えている。一方、既存の評価上の役割の外で科学的主張を精査する際の障壁 も下げうるという、並行する可能性には十分な注意が払われていない。本稿は、この変化を概念的に論 じる。科学的資料へのアクセスと、それらを吟味する能力とを区別し、生成AIが科学的知識の生産と科 学的精査の二重の民主化に寄与しうると主張する。統計的解釈、コードの検査、文献比較、引用の確認、 方法論的推論を支援することで、AIは評価能力の一部を正式な査読者や制度的に承認された専門家の外 へ広げうる。そこには「能力と承認の不一致」が生じる。妥当である可能性のある科学的問題を発見で きる人と、その批判が制度によって承認される人とは一致しない場合がある。しかし、精査の拡大は品 質管理の問題も生む。同じシステムが、見せかけの精査、幻覚に基づく異議、技術的には高度に見えて も検証できない主張を生み出すコストも下げるからである。したがって制度的な課題は、より踏み込ん だ審査や対応に進めるべき異議を、そうでない異議からどう区別するかにある。私は、科学的問題の発 見への参加を比較的開かれたものとしつつ、制度的な措置に至る前に、証拠の来歴、再現可能性、証拠 の具体性、専門家による裁定への要件を段階的に強める、層状のガバナンス原則を論じる。生成AIは、 誰が科学的主張を生み出せるかだけでなく、誰がそれらに実際に異議を唱えられるかを変えることによっ ても、科学を民主化しうる