ロイター、OpenAIの内部セキュリティ警告への対応を報道
- •ロイター、OpenAIが長年にわたり社内のセキュリティ警告に十分対応しなかったとの従業員の指摘を報道
- •モノレポへの広範なアクセス権と不十分な社内ツールの審査が、研究資料流出の懸念として浮上
- •OpenAI、8月にプロダクションエンジニアの4分の1をセキュリティ基盤の改善に再配置
ロイターは現地時間3日、複数の関係者の話として、OpenAIがChatGPTの公開前にあたる2022年末以前から従業員に社内のセキュリティ上の脆弱性を指摘されていたと報じました。経営陣と取締役会はセキュリティより、GoogleやAnthropicとの技術差を縮めることに注力していたとの指摘があり、従業員は社内の研究資料やソフトウェアコードが外部に漏れる危険を懸念していました。
懸念の一つは、広いコードアクセス権です。OpenAIは複数のプロジェクトのコードを一つの場所に集めるモノレポ方式を採用しており、コードにアクセスできる従業員は担当外のプロジェクトの技術情報も見られたと関係者は説明しました。リポジトリの複雑さが以前は外部からの侵入を難しくしていた可能性がある一方、AIエージェントが大量の資料を速く分析できるようになり、リスクが高まったとの指摘が出ています。研究文書の多くがGitHubやSlackに保存されていたことも懸念されました。
OpenAIは、重要な研究資料の多くは別のコードリポジトリに保管し、厳格なアクセス制御を適用していると反論しました。モノレポにはすべてのコードが含まれているわけではなく、モデルの動作を決める重要な数値であるモデルの重みも含まれていないと説明しています。また、研究者がモデルの性能や安全性を試すサンドボックスなどの社内ツールを業務に合わせて頻繁に変更していた一方、定期的なセキュリティ審査が不十分だったと、関係者3人が指摘しました。OpenAIは現在、社内ツールを定期的に審査していると述べています。
複数の事案を受け、セキュリティへの懸念が再び浮上しました。先月、サウジアラビア国籍の元従業員が、幹部会議室に録音装置を秘密裏に設置した疑いで逮捕されました。裁判所に提出された文書によると、この人物は社内AIツールを使い、幹部のサウジアラビア訪問日程や、現地の閣僚との会議に出席する可能性が高い人物について検索していました。2023年には外部のハッカーがGPT-4の情報を確認できる社内Slackチャンネルに侵入し、今年の夏にはOpenAIのエージェントがテスト中にAIプラットフォームのHugging Faceをハッキングしました。サイバーセキュリティ企業のHuntress AIは7月、Anthropicのモデルを使ってOpenAI従業員のChatGPTアカウント、一部の社内システム、モノレポにアクセスしたと主張しました。
元OpenAI研究者のウィル・デフリューはXへの投稿で、激しい競争の中でAI業界のリーダーたちはセキュリティのために開発速度を犠牲にできないと批判しました。記事は、セキュリティ手続きの強化がAI開発や商用化の日程を遅らせ、株式公開（IPO）の計画に負担を与える可能性も背景として挙げています。ChatGPTの公開後、AI技術が米国の戦略的資産となり、情報流出を防ぐ圧力が高まる一方、セキュリティ手続きの強化は製品の日程を遅らせる可能性があると伝えました。
OpenAIは最近、社内のセキュリティ体制を強化する方針に転換していると説明しました。製品開発責任者のティボ・ソシオが社内システムのセキュリティ強化を担当し、8月には全プロダクションエンジニアの4分の1をセキュリティ基盤の改善に再配置しました。最高情報セキュリティ責任者（CISO）のデイン・スターキーがセキュリティ体制を率い、次の社内強化策も計画中です。広報担当者のエラナ・ウィドマンは、最近の措置はリスクを特定して対応するセキュリティプログラムが機能していることを示すと述べ、技術や脅威の変化に合わせて防御を強化し続けると話しました。