ミストラル、サイバー悪用懸念の中でラージ4の重みを公開

ミストラルは公開プレビューの開始から数週間後の木曜日、1兆パラメーター規模のマルチモーダルモデル「ミストラル・ラージ4」の重みを公開しました。誰でも無料でダウンロードし、改変して自社環境で実行できるようにし、「ル・ションク」という愛称も付けました。プレビュー中の実トラフィックでサイバーセキュリティ関連の利用状況を観察した結果、実在の標的を狙うブラックボックス攻撃（内部の仕組みを見ずに行う攻撃）の依頼は拒否した一方、実際の攻撃能力を高める目的で悪用される可能性もあると説明しました。

ミストラルは今後数カ月にわたり安全策を改良し、更新する計画です。ただし、すでにダウンロードされたモデルには適用されません。科学担当副社長のピエール・ストク(Pierre Stock)は、モデル重み自体に安全策が組み込まれているものの、その後の変更で既にダウンロードされたチェックポイントが自動更新されることはなく、管理型APIと今後のモデル提供を通じて反映すると説明しました。プレビュー中に攻撃のどの段階を支援したかという質問には具体例を示さず、ソフトウェアの脆弱性の特定・再現・修正といった防御業務で効果が大きかったと述べました。

重みをホストするHugging Faceは、公開後は利用ポリシーと配布方法を利用者が管理すると説明しました。ミストラルによると、JailbreakBench、StrongREJECT、AgentHarmのサイバーセキュリティ項目で悪意あるプロンプトの96.6％を拒否し、自社が測定した公開モデルの中で最も高い割合でした。Gartnerのシニアアナリスト、ニヤティ・ダフタリーは、この数値は自社テストの結果に限られ、企業データや実運用環境での振る舞いを示すものではないと指摘しました。

ミストラルはOrange Cyberdefenseなどの協力先に、侵入テスト、脆弱性評価、レッドチーム活動向けのサイバーセキュリティ特化版をプレビュー提供しています。利用には厳格な審査と契約上の安全策があり、対象はパートナーが所有するか、テストの許可を得たシステムに限るとしています。英国AIセキュリティ研究所は7月、主要なオープンウェイトモデルのサイバーセキュリティ作業能力は最先端のクローズドモデルより4～7カ月遅れていると報告し、高性能モデルの公開は継続的で取り消せない悪用リスクを生むと警告しました。マイクロソフトは今月初め、中国と関係するハッキング集団がエージェント型AIフレームワークARTEXを使い、Microsoft 365の2,250以上のテナントを攻撃対象にしたと発表しました。

ラージ4は、脆弱性の検出・再現・修正能力を測るArtificial Analysisのサイバーインデックスで51％を記録しました。ミストラルの投稿に掲載されたグラフでは、オープンウェイトモデルのDeepSeek V4.1 FlashとMiMo-V2.6-Proがより高いスコアでした。同社はCognitionのFrontierCode 2.0とTerminalBench 4.0で上位の成績を挙げたとして、コーディング分野で最高のオープンウェイトモデルだと主張しましたが、根拠となる技術報告書はまだ公開されていません。Forresterの副社長兼シニアアナリスト、チャーリー・ダイは、詳細な報告書がないため複数の作業環境で主張を検証しにくく、首位は数カ月、あるいは数週間で入れ替わる可能性があると述べました。ストクは、報告書にサイバーセキュリティ評価の方法と結果、有害な依頼を拒否する試験、プレビュー監視の結果を盛り込み、機密情報を保護できる範囲で敵対的テストの結果も共有するとしましたが、公開時期は示しませんでした。

EUサイバーセキュリティ機関は、脆弱性の特定、コード監査、防御目的のログ分析にラージ4を試験中だと明らかにしました。EU AI法は、学習に使った浮動小数点演算量が10の25乗FLOPsを超えるモデルをシステミックリスクがあると推定し、提供事業者にリスク評価と緩和、重大事故の報告、サイバーセキュリティ対策を求めます。ミストラルの投稿は、ラージ4がこの区分に当たるか、公開前にどのようなリスク評価を行ったかを明らかにしていません。ストクは、安全・セキュリティの章を含むEUの汎用AI実務規範全体に同社が署名したと説明しました。欧州委員会は、規範の順守を法的義務の履行を示す方法の一つと認めていますが、ラージ4がシステミックリスクに分類されるかは確認されていません。

ミストラルは、利用・改変・ファインチューニング・商用利用を認める修正MITライセンスで重みを公開しました。モデルをサービスとして提供する事業者には別途ライセンスが必要です。自社ホスティングを望まない企業はミストラルのAPIを利用でき、料金は入力100万トークンあたり0.70ドル、出力100万トークンあたり2.10ドルです。ダイは、欧州企業にとって主権は意味のある差別化要因だが、セキュリティ上の懸念より優先されるべきではなく、重みの公開と自社ホスティングによって安全策、アクセス制御、監視、悪用防止の責任が運用者に移ると述べました。ダフタリーは、自社ホスティング企業に対し、モデルを自律エージェントではなく制御可能な構成要素として運用し、隔離環境と最小権限、サンドボックス（隔離された安全な実行環境）でのコード実行、変更前の人による承認を設けるよう助言しました。自社ホスティングはデータ管理と運用継続性を高められますが、パッチ適用、監視、評価、悪用防止の責任も企業に残ります。

ミストラルは公開プレビューの開始から数週間後の木曜日、1兆パラメーター規模のマルチモーダルモデル「ミストラル・ラージ4」の重みを公開しました。誰でも無料でダウンロードし、改変して自社環境で実行できるようにし、「ル・ションク」という愛称も付けました。プレビュー中の実トラフィックでサイバーセキュリティ関連の利用状況を観察した結果、実在の標的を狙うブラックボックス攻撃（内部の仕組みを見ずに行う攻撃）の依頼は拒否した一方、実際の攻撃能力を高める目的で悪用される可能性もあると説明しました。

ミストラルは今後数カ月にわたり安全策を改良し、更新する計画です。ただし、すでにダウンロードされたモデルには適用されません。科学担当副社長のピエール・ストク(Pierre Stock)は、モデル重み自体に安全策が組み込まれているものの、その後の変更で既にダウンロードされたチェックポイントが自動更新されることはなく、管理型APIと今後のモデル提供を通じて反映すると説明しました。プレビュー中に攻撃のどの段階を支援したかという質問には具体例を示さず、ソフトウェアの脆弱性の特定・再現・修正といった防御業務で効果が大きかったと述べました。

重みをホストするHugging Faceは、公開後は利用ポリシーと配布方法を利用者が管理すると説明しました。ミストラルによると、JailbreakBench、StrongREJECT、AgentHarmのサイバーセキュリティ項目で悪意あるプロンプトの96.6％を拒否し、自社が測定した公開モデルの中で最も高い割合でした。Gartnerのシニアアナリスト、ニヤティ・ダフタリーは、この数値は自社テストの結果に限られ、企業データや実運用環境での振る舞いを示すものではないと指摘しました。

ミストラルはOrange Cyberdefenseなどの協力先に、侵入テスト、脆弱性評価、レッドチーム活動向けのサイバーセキュリティ特化版をプレビュー提供しています。利用には厳格な審査と契約上の安全策があり、対象はパートナーが所有するか、テストの許可を得たシステムに限るとしています。英国AIセキュリティ研究所は7月、主要なオープンウェイトモデルのサイバーセキュリティ作業能力は最先端のクローズドモデルより4～7カ月遅れていると報告し、高性能モデルの公開は継続的で取り消せない悪用リスクを生むと警告しました。マイクロソフトは今月初め、中国と関係するハッキング集団がエージェント型AIフレームワークARTEXを使い、Microsoft 365の2,250以上のテナントを攻撃対象にしたと発表しました。

ラージ4は、脆弱性の検出・再現・修正能力を測るArtificial Analysisのサイバーインデックスで51％を記録しました。ミストラルの投稿に掲載されたグラフでは、オープンウェイトモデルのDeepSeek V4.1 FlashとMiMo-V2.6-Proがより高いスコアでした。同社はCognitionのFrontierCode 2.0とTerminalBench 4.0で上位の成績を挙げたとして、コーディング分野で最高のオープンウェイトモデルだと主張しましたが、根拠となる技術報告書はまだ公開されていません。Forresterの副社長兼シニアアナリスト、チャーリー・ダイは、詳細な報告書がないため複数の作業環境で主張を検証しにくく、首位は数カ月、あるいは数週間で入れ替わる可能性があると述べました。ストクは、報告書にサイバーセキュリティ評価の方法と結果、有害な依頼を拒否する試験、プレビュー監視の結果を盛り込み、機密情報を保護できる範囲で敵対的テストの結果も共有するとしましたが、公開時期は示しませんでした。

EUサイバーセキュリティ機関は、脆弱性の特定、コード監査、防御目的のログ分析にラージ4を試験中だと明らかにしました。EU AI法は、学習に使った浮動小数点演算量が10の25乗FLOPsを超えるモデルをシステミックリスクがあると推定し、提供事業者にリスク評価と緩和、重大事故の報告、サイバーセキュリティ対策を求めます。ミストラルの投稿は、ラージ4がこの区分に当たるか、公開前にどのようなリスク評価を行ったかを明らかにしていません。ストクは、安全・セキュリティの章を含むEUの汎用AI実務規範全体に同社が署名したと説明しました。欧州委員会は、規範の順守を法的義務の履行を示す方法の一つと認めていますが、ラージ4がシステミックリスクに分類されるかは確認されていません。

ミストラルは、利用・改変・ファインチューニング・商用利用を認める修正MITライセンスで重みを公開しました。モデルをサービスとして提供する事業者には別途ライセンスが必要です。自社ホスティングを望まない企業はミストラルのAPIを利用でき、料金は入力100万トークンあたり0.70ドル、出力100万トークンあたり2.10ドルです。ダイは、欧州企業にとって主権は意味のある差別化要因だが、セキュリティ上の懸念より優先されるべきではなく、重みの公開と自社ホスティングによって安全策、アクセス制御、監視、悪用防止の責任が運用者に移ると述べました。ダフタリーは、自社ホスティング企業に対し、モデルを自律エージェントではなく制御可能な構成要素として運用し、隔離環境と最小権限、サンドボックス（隔離された安全な実行環境）でのコード実行、変更前の人による承認を設けるよう助言しました。自社ホスティングはデータ管理と運用継続性を高められますが、パッチ適用、監視、評価、悪用防止の責任も企業に残ります。