NeMo Switchyard(ネモスイッチヤード)とは

NeMo Switchyardとは、NVIDIAが公開した、AIエージェントの処理を複数のLLMへ振り分けるオープンソースのルーティング基盤です。すべてを高性能モデルへ送らず、仕事の難しさ、費用、速度に合わせて担当を選ぶために使います。

モデルの選択と接続形式の変換を担う

2026年8月11日に発表されました。利用者から依頼を受けると、内容、作業段階、エラー、費用や応答時間などの信号を見て、あらかじめ登録したモデルから接続先を選びます。モデルルーティングの判断と、実際に要求を送って応答を返す通信部分は、役割が分かれた構造です。

OpenAI Chat、OpenAI Responses、Anthropic Messagesという異なるAPI形式（アプリとモデルがやり取りするときの書式）を相互に変換できます。業務アプリの話し方を変えず、裏側のモデルや提供元を差し替えやすくする通訳兼交通整理役と考えると分かりやすいでしょう。

費用だけでなく誤振り分けも測る

定型処理を軽量モデルへ、複雑な推論や復旧を高性能モデルへ送れば、品質を保ちながら費用や待ち時間を抑えられる可能性があります。ただし、振り分け役は回答の正しさを保証しません。簡単に見える難問を軽量モデルへ送る、同じ処理を再送して費用が増えるといった失敗も試験対象です。

2026年8月12日時点ではpre-alpha（試用版であるアルファ版よりも、さらに手前の試作段階）の実験的ソフトウェアで、公式リポジトリも本番利用を避けるよう明記しています。限定した検証環境で、振り分け記録、エラー率、品質、総費用、障害時の退避先を比較。仕様変更への追従工数まで含めて採否を判断します。

NeMo Switchyardに関するよくある質問

NeMo Switchyardは何を基準にモデルを選びますか？

依頼内容、作業段階、エラーなどの信号を使う方式があります。独自の規則も組み込めますが、選択結果が業務品質や費用へ与える影響は個別に測る必要があります。

NeMo Switchyardは特定のモデル提供会社だけに対応しますか？

接続先とルーティング規則を分ける設計です。OpenAIやAnthropicのAPI形式を変換し、複数の互換エンドポイントへつなげられます。実際の対応範囲は設定と各接続先で確認します。

モデルを切り替えると会話の文脈は失われませんか？

NeMo Switchyardは必要に応じてルーティング状態や以前のツール結果をセッション内で引き継げます。ただし、接続先ごとの入力上限や形式差があるため、実際の会話で欠落がないか確認します。