MuleSoft AIコネクタが大幅に向上：Inference ConnectorとVector Connectorで次世代AIを解き放つ

2024年9月に、MuleSoftはオープンソースのAI Chainプロジェクトを導入しました。これは、MuleSoftのお客様や開発者がAnypoint Platform™内で直接、AIテクノロジーの設計、構築、管理ができるようにするためのステップです。このオープンソースプロジェクトの成功と、LLM 、ベクトルデータベース、従来のエンタープライズアプリケーションの全体におけるAIシステムのオーケストレーションに対するニーズの高まりを受けて、当社はMule AIコネクタを作成しました。これにより、企業はAIテクノロジーのインテグレーションとオーケストレーションを簡単にできます。

AIコネクタを使用すると、AIの機能を活用するためにMuleSoftユーザーは慣れているエコシステムを離れる必要がありません。既存のスキルとAnypoint Platform™の機能を最大活用して、イノベーションの次の波を引き寄せることができます。

今回、AIコネクタのポートフォリオに2つの新しいパワフルなコネクタが追加されることになりました。Inference ConnectorとVector Connectorです。AI活用の高度なアプリケーションを構築するための主要な機能が明らかにされて、AIエージェント開発にすべてのエンタープライズチームがアクセスできることに1歩近づきます。

Inference ConnectorとVector Connectorは、AIインテグレーションの難しい部分を処理するように設計されているため、開発者はAIをつなぐ複雑な作業と格闘することなく、ビジネスロジックとイノベーションに注力できます。これらのコネクタはどちらも、ゼロから構築された元のAI Chainコネクタが進化したものです。その機能が拡張されてパフォーマンスを高めています。MuleSoftのAIコネクタのポートフォリオにおける最新のイノベーションです。このポートフォリオには、MuleSoft AI Chain Connector、Agentforce Connector、Einstein AI Connectorも含まれています。Inference Connectorは軽量で、マーケットにある多くの上位LLMとすぐに統合できますが、Vector Connectorは専門的な機能として提供され、お客様は業界の主要なベクトルデータベースとシームレスに統合できます。どちらのコネクタも、MuleSoft Government Cloudで入手できます。

MuleSoft Inference Connector：LLM向けのユニバーサルトランスレーター

Inference Connectorは、大規模言語モデルへの統合された1つのエントリーポイントの役目を担います。シンプルな1つのコネクタを使用して、OpenAI やNVIDIA NIM などのプロバイダーやマイクロサービスの30以上のモデルとやり取りします。APIごとにカスタムコーディングをする必要がありません。

• LLMと簡単に統合：サポートされているどのLLMにも標準的な設定で接続して、ニーズと予算に最適なモデルを見つけて簡単に交換できます。
• ビジネスプロセスを自動化：MuleSoft APIを呼び出す機能呼び出しを使用して、テキストベースのリクエストを自動化されたワークフローに変換し、AIエージェントのアクション実行を促進します。
• AIを確実に管理：組み込みの有害検知機能を使用して、害のあるコンテンツをフィルタリングし、トークンガバナンスを適用して、AI支出を監視して制御します。

MuleSoft Vector Connector：AIエージェントに強力なメモリを提供

Vector Connectorは、AIエージェントがベクトルデータベースに接続して情報を取得する方法を簡単にして、インテリジェントな応答のために不可欠な長期メモリを提供します。Vector Connectorを使用して、Milvus 、Pinecone 、PG Vector などの一般的なベクトルストアやツールに接続します。

• よりスマートなAIエージェントを迅速に構築：データベースの専門家がいなくても、上書きやクエリなどの主なベクトル演算を簡単に実行して、強力な検索拡張生成（RAG）を実装できます。
• より正確な回答を取得：非公開の企業データ内でグラウンディングすることで、AIエージェントのパフォーマンスと信頼度を高め、関連性のある信頼できる回答を提供できます。
• 柔軟に拡張：標準化されたコネクタが複数のベクトルデータベースプロバイダーに対応しているため、ニーズに合わせて最適なベクトルテクノロジーを柔軟に選択できます。

この新しいInference ConnectorとVector Connectorを使用すると、全く新しいレベルの強力な自動化を実現できます。この画期的な新しい機能を活用して、カスタマーサポート体験を見直してみましょう。

顧客がチケットを送信すると、以下のようにワークフローがシームレスにオーケストレーションされます。

コンテキストに合うナレッジの取得：Vector Connectorが即座に知識ベース（製品ドキュメントや解決済みチケットが含まれる）へのクエリを行い、その問題に最も関連した情報を見つけます。

インテリジェントな応答の生成：取得したドキュメントと元のチケットがInference Connectorに送られます。このコネクタは、慎重に作成されたプロンプトをLLMに送信して、提供されたエンタープライズのコンテキストにもとづく手順を追ったソリューションの生成を依頼するよう設定されています。

自律型アクション：ソリューションにリターンの処理などのアクションが必要な場合、Inference Connectorが機能呼び出しを使用して「リターンの作成」APIを呼び出し、業務プロセスの次のステップを自動化します。

このインテリジェントなワークフロー全体が、Anypoint Platform™内で迅速に構築されて、より確実に管理され、新しいコネクタにより複雑なAIインタラクションが処理されます。

Inference ConnectorとVector Connectorを使用して、AI機能を企業のアプリケーションネットワークのファブリックに直接統合することで、イノベーションがより速くより確実になります。

よりインテリジェントで自律的なシステムへと向かう世界において、MuleSoftは、先頭に立つために必要なツールをお客様に提供して、AIの可能性を具体的なビジネス価値に変えることに取り組んでいます。MuleSoft AIコネクタのポートフォリオには、これからも新しいコネクタが追加されていきます。

Anypoint Platform™でのAIに関する全体的なビジョンの詳細については、MuleSoft AIコネクタのページをご覧ください。