LMSYS Org、SGLangコンソーシアムを設立
- •LMSYS Orgがサンフランシスコで開かれた初のSGLang Summitで、創設メンバー8社とコンソーシアムを設立
- •DeloitteはAI計算量に占める推論の割合が2026年に約3分の2となり、2025年の約半分から増えると推計
- •年2回のロードマップ会議を開催し、技術判断とコード採用はSGLangのメンテナーが担う
オープンソースのAI推論エンジンSGLangを開発する非営利団体LMSYS Orgは、2026年11月12日、NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal、RadixArkを創設メンバーとしてSGLangコンソーシアムを設立しました。サンフランシスコで開かれた初のSGLang Summitの基調講演で発表し、SGLangのメンテナーとプロジェクトのロードマップやオープンソースAI推論に取り組みます。
Deloitteは、AI計算量全体に占める推論の割合が2026年に約3分の2となり、2025年の約半分から増えると推計しています。SGLangはPyTorchエコシステムで最先端AI向けに使われるフルスタック推論エンジンです。数十万基のGPUで動作し、Meta、Microsoft、Google、Amazon、Thinking Machines Lab、Cloudflare、Reflection、Modalの大規模な本番環境で稼働しています。
コンソーシアムは、メンバーとメンテナーが推論の動向を議論し、最先端モデルへの対応、推論、マルチモーダル処理、分散推論、ハードウェア最適化の開発を調整する常設の場となります。創設メンバーはそれぞれ技術担当者を指名し、年2回のロードマップ会議に出席します。貢献には技術的知見、導入現場からのフィードバック、テスト資源の提供、共同開発などが含まれる可能性があります。作業部会は会議の合間にも活動でき、ロードマップの方向性と進捗は公開されます。技術的な判断とコードの採用はSGLangのメンテナーが担い、プロジェクトは引き続きコミュニティ全体に開かれます。
SGLangの原論文の共著者でRadixArkの共同創業者兼CEOであるYing Shengは、データセンター建設の課題があるなか、ソフトウェアによるAI効率化が重要になると述べました。また、大規模なSGLang導入から得た知見は、利用者とAIエコシステムに役立つと語りました。NVIDIAの副社長Ian Buckは、ソフトウェアの改善で開発者がNVIDIAの計算資源からより高い性能を引き出せること、オープンモデルが新たな用途や事業を支えること、推論コストの低下でAIがより利用しやすくなることを述べました。初のSGLang Summitは11月12日から13日まで、サンフランシスコのFort Mason Center for Arts & Cultureで開催され、100人を超える登壇者が強化学習、マルチモーダルモデル、ハードウェア基盤に関するセッションを行いました。
最も速く正確なAIニュースをメールでいかがですか?
