Google DeepMindのデミス・ハサビスCEOは、汎用人工知能(AGI)が今後3～4年以内に実現するという予測を示した。ハサビスはAGIを、ほぼすべての認知的タスクにおいて人間の能力と同等か、あるいはそれを凌駕するシステムと定義し、現在は人類にとっての決定的な局面であると強調している。

この急速な進歩に対し、ハサビスは金融業界の独立規制機関であるFINRAにならった国際的な監視体制の構築を求めている。この機関は主にAI業界からの資金提供と技術専門家による運営を想定し、最先端AIモデルに対する義務的な安全基準を策定すべきだと主張した。当初は自主的な試みであっても、将来的にはすべての高度なAI開発者に安全テストの実施を義務付けるべきだとしている。

ハサビスは、企業や国家間の競争圧力が、AIの安全性に関する極めて重要な考慮事項から注意を逸らしていると指摘する。最先端のモデルであっても、その内部動作を完全に解釈することはトップレベルの研究者でも困難であり、将来的な挙動を予測すること自体が大きな課題となっている。この提言は、サイバーセキュリティ、生物学、核研究といった、適切に制御されなければ自律的なシステムが重大な脅威となり得る高リスク分野への対応を重視している。

こうした危険性を強調しつつも、ハサビスはAGIに対して長期的に楽観的な展望を維持している。その社会的なインパクトをインターネットではなく、電気や火の発見に匹敵する歴史的転換点と位置づけた。責任を持って開発されれば、創薬、クリーンエネルギー、材料科学などの分野で技術革新を加速させると展望している。一方で、今後数年間の意思決定が、技術が広範な繁栄をもたらすか、回避可能なリスクを招くかを左右することになると警告した。

Google DeepMindのデミス・ハサビスCEOは、汎用人工知能(AGI)が今後3～4年以内に実現するという予測を示した。ハサビスはAGIを、ほぼすべての認知的タスクにおいて人間の能力と同等か、あるいはそれを凌駕するシステムと定義し、現在は人類にとっての決定的な局面であると強調している。

この急速な進歩に対し、ハサビスは金融業界の独立規制機関であるFINRAにならった国際的な監視体制の構築を求めている。この機関は主にAI業界からの資金提供と技術専門家による運営を想定し、最先端AIモデルに対する義務的な安全基準を策定すべきだと主張した。当初は自主的な試みであっても、将来的にはすべての高度なAI開発者に安全テストの実施を義務付けるべきだとしている。

ハサビスは、企業や国家間の競争圧力が、AIの安全性に関する極めて重要な考慮事項から注意を逸らしていると指摘する。最先端のモデルであっても、その内部動作を完全に解釈することはトップレベルの研究者でも困難であり、将来的な挙動を予測すること自体が大きな課題となっている。この提言は、サイバーセキュリティ、生物学、核研究といった、適切に制御されなければ自律的なシステムが重大な脅威となり得る高リスク分野への対応を重視している。

こうした危険性を強調しつつも、ハサビスはAGIに対して長期的に楽観的な展望を維持している。その社会的なインパクトをインターネットではなく、電気や火の発見に匹敵する歴史的転換点と位置づけた。責任を持って開発されれば、創薬、クリーンエネルギー、材料科学などの分野で技術革新を加速させると展望している。一方で、今後数年間の意思決定が、技術が広範な繁栄をもたらすか、回避可能なリスクを招くかを左右することになると警告した。