ニュータニックスは13日、ソウル市江南区のグランド・インターコンチネンタル・ソウル・パルナスで開かれた「Next on Tour 2026 Seoul」で、AIインフラの費用と運用の複雑さを抑える方法を発表しました。最高マーケティング責任者（CMO）のマンディ・ダリワル氏は、供給業者が課金モデルを変更した後、トークン費用が一夜で350％急増し、予算外の数百万ドルを追加支出した事例を紹介しました。ソリューション・パフォーマンスエンジニアリング担当副社長のポール・ハーブ氏は、大規模言語モデル（大量の文章を扱うAI）が多くのトークンを使うため、すべての処理をモデルに任せると消費量と運用費を管理しにくいと説明しました。

ニュータニックスは費用の急増を経験した後、社内のAI運用モデルをハイブリッド方式に全面的に改めました。ダリワル氏によると、AMDとエヌビディアからGPUを直接購入し、自社ソリューションを再設計しました。運用費の支出に依存する形から、資本的支出（CapEx）を基にインフラを自社で確保し、管理を強める方式へ移行したといいます。同社は、この転換により従来の運用方式と比べて費用を50％削減し、業務の特性や目的に合わせたAIを運用していると説明しました。

ハーブ氏は、サーバー、GPU、ネットワーク、ストレージからなる物理インフラ上にオープンソースモデルとクローズドモデルを併用し、それぞれを効率よく動かすシステムを整える「AIファクトリー・アーキテクチャ」を紹介しました。この構成では、大規模言語モデルが利用者の質問を理解して推論し、メール検索やデータベース照会などの具体的な作業はエージェントが実行します。ニュータニックスは役割を分けることで、単純な作業に使われる不要な計算とトークン消費を抑え、「エージェントゲートウェイ」を通じてトークン使用量と費用の管理を強める方針です。

ダリワル氏は、過去1年間に制御されていないAIエージェントやセキュリティ上の脅威が目立ち、サーバー価格は5倍に上昇したほか、メモリー不足も企業の事業推進の負担を増やしたと述べました。仮想化の導入初期にはストレージ、ネットワーク、コンピューティング資源が分かれ、クラウドの普及後はオンプレミスのシステム、データセンター、クラウドの各組織が分かれて管理が難しくなったと説明しました。クーバネティス環境でも、プラットフォームエンジニアリング組織や実行環境、運用ツールが加わって複雑さが増したとしています。

現在、企業ではオンプレミス、クラウド、クーバネティス基盤のアプリケーションに加え、複雑なAIワークロードが併存しています。ダリワル氏は、CPU・GPUによるAI処理だけでなく、量子コンピューティング、物理AI、ロボットも現場に導入されている一方、それらを管理するガバナンスや資源使用量を把握する可視性が不足し、費用の管理が難しいと述べました。ニュータニックスは、分散したインフラを単一のプラットフォームで統合管理し、設計段階からインテリジェントな構造、特定ベンダーに依存しないオープンな環境、データ保護の仕組みを整えることで、費用と複雑さを抑える必要があると強調しました。

ニュータニックスは13日、ソウル市江南区のグランド・インターコンチネンタル・ソウル・パルナスで開かれた「Next on Tour 2026 Seoul」で、AIインフラの費用と運用の複雑さを抑える方法を発表しました。最高マーケティング責任者（CMO）のマンディ・ダリワル氏は、供給業者が課金モデルを変更した後、トークン費用が一夜で350％急増し、予算外の数百万ドルを追加支出した事例を紹介しました。ソリューション・パフォーマンスエンジニアリング担当副社長のポール・ハーブ氏は、大規模言語モデル（大量の文章を扱うAI）が多くのトークンを使うため、すべての処理をモデルに任せると消費量と運用費を管理しにくいと説明しました。

ニュータニックスは費用の急増を経験した後、社内のAI運用モデルをハイブリッド方式に全面的に改めました。ダリワル氏によると、AMDとエヌビディアからGPUを直接購入し、自社ソリューションを再設計しました。運用費の支出に依存する形から、資本的支出（CapEx）を基にインフラを自社で確保し、管理を強める方式へ移行したといいます。同社は、この転換により従来の運用方式と比べて費用を50％削減し、業務の特性や目的に合わせたAIを運用していると説明しました。

ハーブ氏は、サーバー、GPU、ネットワーク、ストレージからなる物理インフラ上にオープンソースモデルとクローズドモデルを併用し、それぞれを効率よく動かすシステムを整える「AIファクトリー・アーキテクチャ」を紹介しました。この構成では、大規模言語モデルが利用者の質問を理解して推論し、メール検索やデータベース照会などの具体的な作業はエージェントが実行します。ニュータニックスは役割を分けることで、単純な作業に使われる不要な計算とトークン消費を抑え、「エージェントゲートウェイ」を通じてトークン使用量と費用の管理を強める方針です。

ダリワル氏は、過去1年間に制御されていないAIエージェントやセキュリティ上の脅威が目立ち、サーバー価格は5倍に上昇したほか、メモリー不足も企業の事業推進の負担を増やしたと述べました。仮想化の導入初期にはストレージ、ネットワーク、コンピューティング資源が分かれ、クラウドの普及後はオンプレミスのシステム、データセンター、クラウドの各組織が分かれて管理が難しくなったと説明しました。クーバネティス環境でも、プラットフォームエンジニアリング組織や実行環境、運用ツールが加わって複雑さが増したとしています。

現在、企業ではオンプレミス、クラウド、クーバネティス基盤のアプリケーションに加え、複雑なAIワークロードが併存しています。ダリワル氏は、CPU・GPUによるAI処理だけでなく、量子コンピューティング、物理AI、ロボットも現場に導入されている一方、それらを管理するガバナンスや資源使用量を把握する可視性が不足し、費用の管理が難しいと述べました。ニュータニックスは、分散したインフラを単一のプラットフォームで統合管理し、設計段階からインテリジェントな構造、特定ベンダーに依存しないオープンな環境、データ保護の仕組みを整えることで、費用と複雑さを抑える必要があると強調しました。