Grok BotとOpenAIのDots、計算コストが課題

イーロン・マスク氏は今週、SpaceXが8月に発表した個人アシスタント「Grok Bot」について、収入に比べて運用コストが「持続不可能なほど高い」と述べました。SpaceXが割り当てる計算能力を減らしており、利用者がより早く使用上限に達する可能性があるとも示唆しました。ニューヨークで記者らと夕食を共にした際、ChatGPTの消費者向け事業を率いるアダム・フライ氏は、OpenAIのアシスタント「Dots」は「計算負荷が高い側」だと語りました。各Dotは独自のクラウドコンピューター上で動き、利用者が許可したアカウントやサービスを使って作業します。

Dotsはメールの閲覧や返信、イベントチケットの検索・予約を支援します。フライ氏によると、「バックグラウンドモード」はDotsを継続的に利用できるようにする機能です。ChatGPTの音声モードは週間アクティブユーザーが2億5,000万人に上り、検索意図のある検索クエリ数はGoogleの5分の1に相当するとOpenAIは主張しています。ジョニー・アイブ氏が設計した消費者向け端末は今年登場する予定です。

Dotsは現在、月額100ドルを支払うPro会員に限って提供されています。フライ氏は、モデルの性能が向上する一方で効率も改善し、計算コストは急速に下がると予想しています。OpenAIは、作業を異なるAIモデルに割り当てるタスク振り分けシステムを発表しました。これには、従来すべてのDotsの作業を担っていたGPT-6 Astraより計算能力を少なく使うGPT-6.1 Terraが含まれます。同社は、このシステムでDotsの計算需要を減らせるとしています。

OpenAIは今週、データセンターを「計算キャンパス」と呼び始めました。全米で超党派の反対がある中、同社はキャンパスが地域の電力網への負担を和らげ、地元家庭の電力を奪わないと説明しています。地域住民の反対で許可が遅れたり、施設を建設できなくなったりする可能性があります。今週更新されたAnthropicのS-1届出書は、長期・短期の購入契約が8,954億ドルに上り、その「ほぼすべて」が計算資源とインフラに関係すると報告しました。追加の計算資源を確保しにくいことも、主要なリスクに挙げています。

OpenAIはまだS-1を提出しておらず、新規株式公開（IPO）の時期も確認していません。Fortuneによると、情報筋はOpenAIも同様の計算資源確保の課題に直面すると見ています。インフラに4種類のチップを使うAnthropicとは異なり、OpenAIは主にNvidiaのGPUに依存しながら、「ハラペーニョ」チップを開発しており、2027年に生産拡大を見込んでいます。同社は資金調達を続けており、黒字化していません。ウォール・ストリート・ジャーナルによると、直近の資金調達では目標の300億ドルに対し110億ドルを集めました。記事は、300億ドルでさえ計算支出に比べれば少額となる可能性があり、個人向けエージェントの展開を賄う手段は上場しかないかもしれないものの、成功が保証されるわけではないとしています。

イーロン・マスク氏は今週、SpaceXが8月に発表した個人アシスタント「Grok Bot」について、収入に比べて運用コストが「持続不可能なほど高い」と述べました。SpaceXが割り当てる計算能力を減らしており、利用者がより早く使用上限に達する可能性があるとも示唆しました。ニューヨークで記者らと夕食を共にした際、ChatGPTの消費者向け事業を率いるアダム・フライ氏は、OpenAIのアシスタント「Dots」は「計算負荷が高い側」だと語りました。各Dotは独自のクラウドコンピューター上で動き、利用者が許可したアカウントやサービスを使って作業します。

Dotsはメールの閲覧や返信、イベントチケットの検索・予約を支援します。フライ氏によると、「バックグラウンドモード」はDotsを継続的に利用できるようにする機能です。ChatGPTの音声モードは週間アクティブユーザーが2億5,000万人に上り、検索意図のある検索クエリ数はGoogleの5分の1に相当するとOpenAIは主張しています。ジョニー・アイブ氏が設計した消費者向け端末は今年登場する予定です。

Dotsは現在、月額100ドルを支払うPro会員に限って提供されています。フライ氏は、モデルの性能が向上する一方で効率も改善し、計算コストは急速に下がると予想しています。OpenAIは、作業を異なるAIモデルに割り当てるタスク振り分けシステムを発表しました。これには、従来すべてのDotsの作業を担っていたGPT-6 Astraより計算能力を少なく使うGPT-6.1 Terraが含まれます。同社は、このシステムでDotsの計算需要を減らせるとしています。

OpenAIは今週、データセンターを「計算キャンパス」と呼び始めました。全米で超党派の反対がある中、同社はキャンパスが地域の電力網への負担を和らげ、地元家庭の電力を奪わないと説明しています。地域住民の反対で許可が遅れたり、施設を建設できなくなったりする可能性があります。今週更新されたAnthropicのS-1届出書は、長期・短期の購入契約が8,954億ドルに上り、その「ほぼすべて」が計算資源とインフラに関係すると報告しました。追加の計算資源を確保しにくいことも、主要なリスクに挙げています。

OpenAIはまだS-1を提出しておらず、新規株式公開（IPO）の時期も確認していません。Fortuneによると、情報筋はOpenAIも同様の計算資源確保の課題に直面すると見ています。インフラに4種類のチップを使うAnthropicとは異なり、OpenAIは主にNvidiaのGPUに依存しながら、「ハラペーニョ」チップを開発しており、2027年に生産拡大を見込んでいます。同社は資金調達を続けており、黒字化していません。ウォール・ストリート・ジャーナルによると、直近の資金調達では目標の300億ドルに対し110億ドルを集めました。記事は、300億ドルでさえ計算支出に比べれば少額となる可能性があり、個人向けエージェントの展開を賄う手段は上場しかないかもしれないものの、成功が保証されるわけではないとしています。