AMD、AI推論へTaalas買収
- •AMDがTaalasを買収し、モデル重みをシリコンへ直接刻む技術でAI推論の改善を狙う
- •Taalas HC1はTSMC 6nmでLlama 3.1 8Bを毎秒16,960トークン処理した
- •買収は規制当局の承認を条件に、第4四半期に完了する見通しだ
AMDは2026年8月6日、トロント拠点のAIチップ企業Taalasを買収し、モデル重みをシリコンへ直接組み込むことで推論性能を高めると発表した。木曜日の市場終了時に発表された買収の金銭条件は明らかにされておらず、人材獲得を主目的とするアクハイヤーではなく通常の買収とみられる。Taalasは2023年創業で、コードアシスタントなどAIエージェントが使う「プレミアム」推論サービス向けチップを開発しており、AMDはNvidiaが支配するAIハードウェア市場で、より速く安い運用を狙う。
Taalasの方式は、従来型GPU、GroqのLPU、Cerebrasのウエハースケールアクセラレーターと異なり、モデル重みの保存にHBMを使わない。重みをシリコンに刻むため、チップはモデル専用集積回路、つまりMSICs(1つのモデル向けに作るチップ)になる。Taalasは2月、TSMCの6nmプロセスで製造した初のHC1テストチップを公開し、MetaのLlama 3.1 8Bを毎秒16,960トークン処理したと報告した。この発表時点で、その結果はNvidiaのGPUより48x速く、Cerebrasのアクセラレーターより8.5x速かった。
Taalasはプロセッサの動作について多くを公表していないが、記事によると主要領域は2つある。モデル重みを刻むmask-ROM recall fabricと、KVキャッシュやファインチューニング用アダプターを保存するSRAM recall fabricだ。今夏に投入予定の第2世代HC2チップは、容量を20 billion parametersへ引き上げる設計である。1チップあたり20 billion parametersなら、trillion-parameterモデルには50個のアクセラレーターが必要になり、AMDにはその規模のシステムを収容できるラックスケール計算プラットフォームがある。
記事によれば、AMDはInstinctベースのHeliosラックと、Taalas技術を基にしたチップを組み合わせる見通しだ。この構成では、計算負荷の高いプロンプト処理にGPUを使い、トークン生成にTaalasベースのアクセラレーターを使う。AMDのAI担当SVP、バムシ・ボッパナ(Vamsi Boppana)は、顧客がAIワークロードごとに適切な計算資源を使えるよう、AMDは「フルスタックAIプラットフォーム」を構築していると述べた。
主な制約は、配備済みのTaalasチップが刻み込まれたモデルに縛られる点だ。LoRAアダプターのような小規模変更を超える修正では、費用と時間のかかるチップの再設計が必要になる。Taalasは、変更が必要なのは金属層2層だけで、工程は完全なやり直しではないとしている。記事は、モデル開発者、インフラ事業者、一部の推論事業者が主な利用者になるとし、Taalasは2月にThe Next Platformへ、モデル重みをシリコンに刻む方法はフロンティアモデルの訓練より100x安いと述べた。
記事によれば、買収はモデル開発にも影響し得る。トークン当たりコストの低下と出力速度の向上が、回答前にモデルへより長く考えさせるtest-time scalingを支える可能性があるためだ。test-time scalingはより多くのトークンを使うため、チャットボット、コードアシスタント、エージェントではコストと遅延が増える。Taalasベースのシステムがトークン当たりコストを下げ、出力速度を10xまたは20x改善するなら、モデル開発者は推論時間をさらに延ばせる可能性がある。買収は規制当局の承認を条件に、第4四半期に完了する見通しだ。