FlashLabs株式会社は、提携先のContinuum AIが開発したDify向けスマートルーティングプラグイン「OrcaRouter」のDify Marketplace公開を発表しました。
OrcaRouterのアダプティブ・ルーティング技術が複数LLM管理の課題を解消
Difyは、ノーコード・ローコードでAIアプリケーションを構築できるプラットフォームとして、急速に普及しています。その一方で、複数のLLMプロバイダーを活用する際には、「プロバイダーごとの個別契約・管理の煩雑さ」や「固定モデル運用による過剰なコスト」、「プロンプトの複雑度に応じた最適モデル選択の困難さ」といった課題が生じていました。
OrcaRouterは、これらの課題をアダプティブ・ルーティング技術によって解決します。各リクエストに対して「指定された品質基準を満たせる中で最も安いモデル」をミリ秒単位で自動選択し、ユーザーは、エンドポイントやAPIキー、請求書をそれぞれ一つに統合できます。メール要約と複雑なコード生成では必要なモデルの性能が異なるといった判断も、ルーターが自動で行う仕組みです。
OrcaRouterの主な機能と対応モデル
Difyワークフロー内で提供される主な機能は、以下の通りです。
対応プロバイダーは、OpenAI、Anthropic、Google、xAI、Meta、Mistral、DeepSeekを含む主要プロバイダーをカバーしています。これに加え、Alibaba、Moonshot、ByteDanceなど新興プロバイダーを含めた15社以上に対応します。
200以上のモデルへのアクセスが利用可能です。最新モデルとしては、DeepSeek V4 Pro APIやAnthropic Claude Opus 4.7 APIに対応しています。OpenAI GPT 5.5 APIとQwen3.7 Maxにも対応しており、Difyユーザーは即座に利用できます。
Anthropicが新Sonnetをリリースした際には、OrcaRouterがコーディング系プロンプトの振り分け先を自動で切り替える仕組みも備えています。
OrcaRouterの導入効果と利用方法
OrcaRouter導入による主な効果は、以下の通りです。
- コスト削減:ワークロード構成に応じて推論支出を47～71%削減
- 品質維持:エンドユーザー側の品質指標に測定可能な劣化なし
- 運用効率化:Base URLとAPIキーの書き換えのみで既存ワークフローを無改修で移行
- 透明性:どのモデルが応答したかを完全に可視化
導入手順は、Dify Marketplaceからプラグインをインストールし、OrcaRouter APIキーを取得した後、Difyワークフロー内にOrcaRouterノードを配置するだけです。既存のプロンプトを変更することなく、自動的に最適なモデルが選択されます。
従量課金プランの利用料は、プロバイダー原価に定額プラットフォーム手数料を加えたもののみで、マークアップ手数料はゼロです。
FlashLabsとContinuum AIの会社概要
| 項目 | 詳細 |
|---|---|
| 会社名（国内） | FlashLabs株式会社 |
| 本社所在地 | 東京都千代田区 |
| 代表取締役 | 細井洋一氏 |
| 事業概要 | 営業とカスタマーエクスペリエンスを自動化し、最終的に自律化へ導くことを目指すAI応用研究所。オープンソース音声モデルChromaシリーズの開発元 |
| 主な利用者 | NTTデータ、シャオミ、カカオ、Intel、G42、MBZUAIの開発者・機械学習エンジニア |
| URL | https://www.flashlabs.ai/ |
| 提携先 | Continuum AI（本社:米国） |
| Continuum AI概要 | 次世代AIインフラを開発する研究機関。OrcaRouterやOrcaRouter LiteなどゼロマークアップのLLMルーティング技術を提供 |
| Continuum AI URL | https://www.continuum01.ai/ |
trends編集部の一言
AI推論コストを最大70%削減できるという数値は、LLMを業務活用する組織にとってインパクトのある水準です。AI応用・LLM活用の業界全体としては、マルチモデル運用の煩雑さが共通課題として浮上しており、単一プロバイダーへの依存を避けながらコストと品質を同時に管理する仕組みへの需要が高まっています。
マーケティング業界の文脈に置き換えると、施策ごとに「高性能モデルが必要か、軽量モデルで十分か」を都度判断するコストは業種を超えて広く見られる課題です。その選択判断を自動化する設計は、業界全体の作業プロセス転換を象徴する動きと読み取れます。
エンドポイントやAPIキー、請求管理の統合によって複雑さを解消しようとするアプローチは、マーケティング業界のコンテンツ運用やMA活用の文脈でも注目される取り組みです。エージェント系ワークロードで削減幅が最大化されるという特性も、AIエージェント活用が広がる市場のトレンドと合致した動きと言えます。
References
- ^ PR TIMES. 「AIエージェント向けスマートルーティング『OrcaRouter』がDify Marketplaceに登場──200以上のLLMを一元管理し、AI推論コストを最大70%削減 | FlashLabs株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000034.000138449.html, (参照 26-05-26).
