Grok 4.7、Amazon Bedrockで提供開始
- •Amazon BedrockにGrok 4.7が加わり、ツールを使うエージェント向けに推論の強さを設定可能に
- •AWSの72回の試験で67回正解、xhighは18回中18回、lowは18回中15回
- •推論を強めると出力トークンが増加、AWSはタスク別の反復試験と本番監視を推奨
SpaceXAIのGrok 4.7がAmazon Bedrockで利用可能になり、AWSは推論の強さを設定できる機能が、検索タスク3種類に取り組むツール使用エージェントにどう影響するか試験しました。4段階の設定ごとに各タスクを6回実行した計72回のうち、正解は67回でした。xhighでは18回すべて正解し、lowでは18回中15回正解しました。lowの出力トークン数はxhighの約8分の1でした。AWSは、リクエストごとに調整できるトレードオフが結果に表れたと説明しています。
AWSは20のサービスと7つのツールを備えた模擬環境を構築しました。課題は、アラートから通知されない障害を2件特定すること、10の制約を守り4夜にわたる保守を組むこと、予算内でリスク低減を最大化する移行先を選ぶことでした。各課題には正解が1つだけあり、総当たりで検証しました。診断では190通りの組み合わせ、日程では2,520通り、移行では実行可能な53通りを調べました。AWSは採点規則をすべて明示し、正解が1つであることを確かめ、指定した最終行を採点し、回答形式と正誤を別々に追跡するよう勧めています。72回の回答すべてに採点可能な最終行が含まれていました。
SpaceXAIによると、Grok 4.7はGrok 4.6より基盤モデルが大きく、数時間続く作業を重視した難しい課題で、より長い強化学習を行いました。同社が公表した6分野のベンチマークでは、Grok 4.7がGrok 4.6を上回りました。Terminal-Bench 4.0は20.3%から37.6%、EEBenchは53.0%から64.0%、Harvey Legal Agent Benchmarkは15.8%から19.6%、CursorBench 4.0は40.4%から46.3%、HealthBench Professionalは48.5%から56.7%、AA Briefcase v1.1は1,546から1,657でした。Grok 4.7のコンテキストウィンドウは500Kトークンで、テキストと画像を入力し、テキストを出力します。Bedrockではツール呼び出し、構造化出力、推論の強さの設定に対応しています。
3種類の課題全体では、mediumとhighがそれぞれ18回中17回正解し、xhighは18回中18回でした。1回あたりの平均出力トークン数はlowの1,184から、mediumで6,430、highで6,778、xhighで9,147へ増えました。ツール呼び出し数は17.2~18.7回の範囲でした。実行時間の中央値はlowの18秒からxhighの106秒までで、AWSは各タスク・設定あたり6回の試行では傾向を示すにとどまり、統計的に確定した結論にはならないと注意しています。模擬環境には実際のツールの遅延、部分的な結果、エラーが含まれず、実行時間は数時間の長期作業ではなく、数分の代理指標です。
Bedrock上のGrok 4.7は、推論プロファイルを通じてbedrock-runtimeエンドポイントを使います。us.xai.grok-4.7は米国内でルーティングし、米国内のデータ保管要件に対応します。global.xai.grok-4.7は商用AWSリージョン間でルーティングし、データ保管場所の制約がない場合に、より広い処理能力を利用します。OpenAI互換のChat Completions APIとResponses API、Bedrock Converseに対応します。AWSによると、推論に使うトークンも出力トークン数とmax_completion_tokensの上限に算入されます。試験では上限を32,768トークンに設定しました。推論の強さはlow、medium、high、xhighの4段階ですが、モデルのバージョン間で変わる可能性があるため、AWSはサービス上で対応段階を確認するよう勧めています。投稿では、利用者自身のタスクで複数回測定し、リクエストごとに設定を決め、出力トークン数とツール呼び出しを監視するよう推奨しました。また、本番環境のエージェントにはタイムアウトを設定し、再試行可能なエラーだけを再試行し、ジッターを加えた指数バックオフを行い、さらに「a」で始まる未完の指示に従うよう勧めています。