AIエージェント向けスマートルーティング『OrcaRouter』がDify Marketplaceに登場──200以上のLLMを一元管理し、AI推論コストを最大70%削減

AIエージェント向けスマートルーティング『OrcaRouter』がDify Marketplaceに登場

FlashLabs株式会社は、提携先である次世代AIインフラ開発のContinuum AIが、Dify向けスマートルーティングプラグイン「OrcaRouter」をDify Marketplaceに公開したことを発表しました。このプラグインにより、Difyユーザーは200以上の大規模言語モデル（LLM）へ一つのAPIでアクセスが可能となり、プロンプトの内容に応じて最適なモデルを自動選択することで、出力品質を維持しながらAI推論コストを最大70%削減できます。

### 背景と狙い

Difyの普及に伴い、複数のLLMプロバイダーを活用する際の個別契約の煩雑さ、固定モデル運用によるコスト増、最適なモデル選択の困難さといった課題が顕在化していました。OrcaRouterは「アダプティブ・ルーティング」技術によってこれらの課題を解決します。

### OrcaRouterとDify統合の概要

- **API統合**: OpenAI、Anthropic、Google、xAI、Meta、Mistral、DeepSeek、Alibaba、Moonshot、ByteDanceを含む15社以上のプロバイダーと連携し、200以上のモデルを一つのAPIで管理。 - **インテリジェント・ルーティング**: リクエストごとに「品質基準を満たす最も安いモデル」をミリ秒単位で計算・選定。 - **継続的最適化**: 品質シグナルを反映し、システムは使用されるほどに賢く、安価に進化。 - **リアルタイム対応**: プロバイダーの価格や新モデルを常時モニタリングし、最適な振り分けを実現。

### 対応モデルとメリット

本プラグインはDeepSeek V4 Pro、Anthropic Claude Opus 4.7、OpenAI GPT 5.5、Qwen3.7 Maxなどの最新フロンティアモデルに対応しています。コスト面では、ワークロードに応じて推論支出を最大71%削減できるほか、既存のワークフローを書き換えることなく利用可能です。

### 利用方法

Dify Marketplaceからインストール後、OrcaRouter APIキーを取得し、Difyワークフロー内で戦略を設定することで利用開始できます。利用料はマークアップ手数料ゼロの原価ベースとなっています。