AI研究を巡る論争、科学への信頼に懸念

数学者の間で起きた論争をきっかけに、AIが科学研究への信頼を損なう懸念が浮上しました。先月、OpenAIはAIエージェントがナビエ・ストークス方程式に関する重要な未解決問題を88時間で解いたと発表しました。問題解決に賞を授与する団体は「解決されたようだ」と述べましたが、審査には時間がかかるとしています。発表の数時間前、ニューヨーク大学の数学者トリスタン・バックマスターは、自身とレベント・アルポーゲの研究がOpenAIのコーディングツールCodexに保存されており、同社の結果に影響した可能性があるのではないかと疑問を示しました。バックマスターは不正を告発しているわけではないと述べています。OpenAIは、発表前に社内の誰も他チームの研究を見ていなかったと説明しました。当初、匿名化された製品利用データがモデル改善に役立った可能性はあるものの、その可能性は低いとしました。数日後には、過去2か月間のバックマスターによるCodexへの入力がシステムに影響した可能性はないと説明しました。何が起きたのかは、依然として明らかになっていません。

科学者は望遠鏡や粒子加速器で収集した膨大なデータの処理にもAIを使っています。Google DeepMindのAlphaFoldは1年間で2億件のタンパク質構造を予測しました。これは実験室での実験なら数億年かかった作業に相当します。同社は結果を無料公開し、DeepMindの責任者とプロジェクトの主任科学者はノーベル化学賞を受賞しました。その後、DeepMindはモデルが200万件を超える新たな結晶構造を生成したと発表し、「約800年分の知識」と表現しました。このうち38万件は実験室での研究に有望と評価されました。カリフォルニア大学の化学者アンソニー・チーサムとラム・セシャドリは無作為に選んだ標本を調べ、際立って新しい化合物は見つからなかったと述べました。多くは既知の材料にわずかな変更を加えたものだとしています。DeepMindは構造の新規性を検査したと説明し、原子を1つ変えるだけでも有用な材料が生まれ得ると主張しました。

懸念はAIが書いた論文、捏造された引用、査読にも及びます。ヘント大学のドミトリー・コバクは100万本を超える生物医学論文を調べ、昨年12月までに標本の約90％にAIの痕跡があったと報告しました。言語モデルに含まれる偏りが科学文献に広がる恐れがあると警告しています。スタンフォード大学主導の分析では、主要なコンピューター科学会議4つに提出された査読報告の文章の最大17％が、言語モデルによって大幅に書き換えられていました。別の調査でコーネル大学の研究者は、昨年、実在しない研究への引用を約14万7000件確認しました。歪んだ研究は科学者を実りのない方向へ向かわせ、公的資金を浪費し、医薬品や環境技術など有用な発見を遅らせたり妨げたりする可能性があると記事は述べています。

一部の出版社は確認手順を導入しました。エルゼビアの研究公正チームは約100の指標を使い、より詳しい人による確認が必要な論文を見つけています。ネイチャー系の学術誌はAI生成画像を禁じ、査読者には原稿をAIシステムへアップロードしないよう求めています。arXivは架空の参考文献を提出した研究者を1年間利用停止にします。DeepMindの科学部門責任者プシュミート・コーリは、研究者が主導権を保ち、AIエージェントの成果に責任を負うべきだと述べています。ウィーン・バイオセンターのアンドレア・パウリは、ゼブラフィッシュの卵にあるタンパク質を特定した研究でAIを使いました。そのタンパク質は、精子が卵に入る鍵と鍵穴の仕組みを示すものです。Basecamp Researchの共同創業者オリバー・ヴィンスは、技術的に実現可能ながん治療法の開発を進めていると述べる一方、成功するとは限らないと認めています。問われているのは、AIが科学の進歩を助けるのか、それとも科学の基盤への信頼を損なうのかです。

数学者の間で起きた論争をきっかけに、AIが科学研究への信頼を損なう懸念が浮上しました。先月、OpenAIはAIエージェントがナビエ・ストークス方程式に関する重要な未解決問題を88時間で解いたと発表しました。問題解決に賞を授与する団体は「解決されたようだ」と述べましたが、審査には時間がかかるとしています。発表の数時間前、ニューヨーク大学の数学者トリスタン・バックマスターは、自身とレベント・アルポーゲの研究がOpenAIのコーディングツールCodexに保存されており、同社の結果に影響した可能性があるのではないかと疑問を示しました。バックマスターは不正を告発しているわけではないと述べています。OpenAIは、発表前に社内の誰も他チームの研究を見ていなかったと説明しました。当初、匿名化された製品利用データがモデル改善に役立った可能性はあるものの、その可能性は低いとしました。数日後には、過去2か月間のバックマスターによるCodexへの入力がシステムに影響した可能性はないと説明しました。何が起きたのかは、依然として明らかになっていません。

科学者は望遠鏡や粒子加速器で収集した膨大なデータの処理にもAIを使っています。Google DeepMindのAlphaFoldは1年間で2億件のタンパク質構造を予測しました。これは実験室での実験なら数億年かかった作業に相当します。同社は結果を無料公開し、DeepMindの責任者とプロジェクトの主任科学者はノーベル化学賞を受賞しました。その後、DeepMindはモデルが200万件を超える新たな結晶構造を生成したと発表し、「約800年分の知識」と表現しました。このうち38万件は実験室での研究に有望と評価されました。カリフォルニア大学の化学者アンソニー・チーサムとラム・セシャドリは無作為に選んだ標本を調べ、際立って新しい化合物は見つからなかったと述べました。多くは既知の材料にわずかな変更を加えたものだとしています。DeepMindは構造の新規性を検査したと説明し、原子を1つ変えるだけでも有用な材料が生まれ得ると主張しました。

懸念はAIが書いた論文、捏造された引用、査読にも及びます。ヘント大学のドミトリー・コバクは100万本を超える生物医学論文を調べ、昨年12月までに標本の約90％にAIの痕跡があったと報告しました。言語モデルに含まれる偏りが科学文献に広がる恐れがあると警告しています。スタンフォード大学主導の分析では、主要なコンピューター科学会議4つに提出された査読報告の文章の最大17％が、言語モデルによって大幅に書き換えられていました。別の調査でコーネル大学の研究者は、昨年、実在しない研究への引用を約14万7000件確認しました。歪んだ研究は科学者を実りのない方向へ向かわせ、公的資金を浪費し、医薬品や環境技術など有用な発見を遅らせたり妨げたりする可能性があると記事は述べています。

一部の出版社は確認手順を導入しました。エルゼビアの研究公正チームは約100の指標を使い、より詳しい人による確認が必要な論文を見つけています。ネイチャー系の学術誌はAI生成画像を禁じ、査読者には原稿をAIシステムへアップロードしないよう求めています。arXivは架空の参考文献を提出した研究者を1年間利用停止にします。DeepMindの科学部門責任者プシュミート・コーリは、研究者が主導権を保ち、AIエージェントの成果に責任を負うべきだと述べています。ウィーン・バイオセンターのアンドレア・パウリは、ゼブラフィッシュの卵にあるタンパク質を特定した研究でAIを使いました。そのタンパク質は、精子が卵に入る鍵と鍵穴の仕組みを示すものです。Basecamp Researchの共同創業者オリバー・ヴィンスは、技術的に実現可能ながん治療法の開発を進めていると述べる一方、成功するとは限らないと認めています。問われているのは、AIが科学の進歩を助けるのか、それとも科学の基盤への信頼を損なうのかです。