IBM、Granite Switch 4.1を発表
- •IBM、チャット・判断・音声文字起こしを1つのホステッドエンドポイントで扱うGranite Switch 4.1を発表
- •8B版と30B版に判断用アダプターと、OpenASRで最速とする音声認識モデルを搭載
- •独自の30億パラメータモデルはDoomで毎秒60〜100回判断し、ゲーム実況にも対応
IBMは2026年10月15日、チャット、判断、音声文字起こしを1つのホステッドエンドポイントで切り替えて使える「Granite Switch 4.1」を発表しました。8B版と30B版があり、汎用の判断用Decision aLoRA、安全関連の判断用Guardian aLoRA、Granite-Speech-5.0-Turbo-CTCを搭載しています。同社は、この音声認識モデルがOpenASRのランキングで最速だと説明しています。
IBMによると、これら3つの技術とベースモデルを合わせたGPUのVRAM使用量は、ベースモデル単体とほぼ同じです。Switchのアダプターはキャッシュ効率に優れたActivated LoRAで、ベースモデルの生成に使ったKVキャッシュを後続のアダプターによる判断処理に再利用できます。IBMは、低ランクアダプターの推論を高速化するvLLMへの貢献と、同じ場所に配置した音声認識エンコーダーも、チャット、判断、音声のリクエストを素早く切り替えられる理由に挙げています。
IBMの「Speech-to-Decisions」デモは、音声を文字に起こし、要約を生成し、有害な内容を検出し、利用者が指定したほかの15項目を、1つのエンドポイントでリアルタイムに確認します。同社は、Granite Librariesの専門アダプターが、専門的な分類作業で汎用の判断モデルを上回る場合があるとしています。ベースモデルのKVキャッシュを共有するため、汎用の判断用アダプターに専門モデルを追加するコストはほぼかからないと説明しています。
検索拡張生成（RAG）を使う5段階の作業比較では、固定したGraniteベースモデルと4つの専門aLoRAを使うGranite-Switch-4.1-30Bが、固定したQwenベースモデルと汎用の判断用LoRAを1つ使うJev-27Bより、作業を大幅に速く完了しました。IBMは、Granite Librariesのアダプターを組み合わせて独自のSwitchモデルを作成できるとし、Melleaでアダプターを訓練するためのAdapter SDKを計画しています。例として、同社の独自の30億パラメータGranite Switchモデルは、Doomをプレイしながら毎秒60〜100回判断しました。Jevの報告値は毎秒10回で、IBMのモデルはプレイ中に実況し、質問にも答えられるとしています。