Conectores de IA da MuleSoft, turbinados: Libere o potencial da IA de próxima geração com conectores de inferência e vetoriais

Em setembro de 2024, o MuleSoft apresentou o projeto open source AI Chain project: nosso passo para capacitar clientes e desenvolvedores da MuleSoft a projetar, criar e gerenciar tecnologias de IA diretamente na Anypoint Platform. Com o sucesso do projeto open source e a crescente necessidade de orquestrar sistemas de IA entre LLMs , bancos de dados vetoriais e aplicativos corporativos tradicionais, criamos os Mule AI Connectors: simplificando a integração e a orquestração de tecnologias de IA para empresas.

Com os AI Connectors, os usuários da MuleSoft não precisam sair do ecossistema que conhecem e confiam para aproveitar o poder da IA. Em vez disso, podem usar suas habilidades existentes e todo o potencial da Anypoint Platform para impulsionar a próxima onda de inovação.

Hoje, estamos empolgados em adicionar dois novos e poderosos conectores ao nosso portfólio de AI Connectors: o Inference Connector e o Vector Connector. Eles liberam capacidades essenciais para criar aplicativos avançados com IA e nos aproximam de tornar o desenvolvimento de agentes acessível a todas as equipes corporativas.

Os conectores Inference e Vector foram projetados para assumir a parte mais complexa da integração com IA, permitindo que desenvolvedores se concentrem na lógica de negócios e na inovação, em vez de lidar com a complexidade da infraestrutura de IA. Juntos, esses conectores representam a evolução do conector AI Chain original, criado do zero para ampliar capacidades e melhorar o desempenho. Eles são as mais recentes inovações no portfólio de AI Connectors da MuleSoft, que também inclui o MuleSoft AI Chain Connector, Agentforce Connector e Einstein AI Connector. O conector Inference é leve e oferece recursos prontos para uso para integração com vários dos principais LLMs do mercado, enquanto o conector Vector atua como uma oferta especializada para permitir integração fluida com bancos de dados vetoriais líderes do setor. Ambos os conectores também estão disponíveis no MuleSoft Government Cloud.

MuleSoft Inference Connector: o tradutor universal para LLMs

O Inference Connector atua como um ponto de entrada único e unificado para o mundo dos grandes modelos de linguagem. Use um único conector simples para interagir com mais de 30 modelos de provedores e microsserviços como OpenAI e NVIDIA NIM , eliminando a necessidade de código personalizado para cada API.

• Integre LLMs com facilidade: conecte-se a qualquer LLM compatível com uma configuração padrão, permitindo alternar modelos com facilidade para encontrar a melhor opção para suas necessidades e orçamento.
• Automatize processos de negócios: capacite agentes a agir usando chamadas de função para invocar qualquer API da MuleSoft, transformando solicitações baseadas em texto em fluxos de trabalho automatizados.
• Gerencie IA com confiança: use detecção de toxicidade integrada para filtrar conteúdo prejudicial e aplique governança de tokens para monitorar e controlar seus gastos com IA.

MuleSoft Vector Connector: dê aos seus agentes uma memória poderosa

O Vector Connector simplifica como seus agentes de IA se conectam e recuperam informações de bancos de dados vetoriais, que fornecem a memória de longo prazo essencial para respostas inteligentes. Use o Vector Connector para se conectar a armazenamentos vetoriais e ferramentas populares como Milvus , Pinecone , PG Vector e outros.

• Crie agentes mais inteligentes, mais rápido: execute facilmente operações vetoriais essenciais, como upsert e query, para implementar Geração aumentada por recuperação (RAG) avançada sem precisar ser um especialista em banco de dados.
• Obtenha respostas mais precisas: melhore o desempenho e a confiabilidade dos agentes ao baseá-los nos dados privados da sua empresa, garantindo respostas relevantes e confiáveis.
• Dimensione com flexibilidade: um conector padronizado oferece suporte a múltiplos provedores de bancos de dados vetoriais, dando flexibilidade para escolher a melhor tecnologia para suas necessidades.

Com os novos conectores Inference e Vector, as organizações podem desbloquear novos níveis avançados de automação. Vamos imaginar uma experiência de suporte ao cliente reinventada aproveitando essas novas soluções inovadoras.

Quando um cliente envia um chamado, o fluxo de trabalho é orquestrado de forma fluida:

Recuperação de conhecimento contextual: o Vector Connector consulta instantaneamente uma base de conhecimento (contendo documentação de produtos e chamados resolvidos anteriormente) para encontrar as informações mais relevantes relacionadas ao problema.

Geração inteligente de respostas: os documentos recuperados e o chamado original são enviados ao Inference Connector. O conector é configurado para enviar um prompt cuidadosamente elaborado a um LLM, solicitando a geração de uma solução passo a passo com base no contexto corporativo fornecido.

Ação autônoma: se a solução exigir uma ação, como processar uma devolução, o Inference Connector usa chamadas de função para invocar uma API "Create Return", automatizando a próxima etapa do processo de negócios.

Todo esse fluxo de trabalho inteligente é desenvolvido mais rapidamente e gerenciado com mais confiabilidade na Anypoint Platform, com os novos conectores lidando com as interações complexas de IA.

Ao integrar capacidades de IA diretamente à estrutura da sua rede de aplicativos com os conectores Inference e Vector, qualquer organização pode inovar com mais velocidade e confiança.

À medida que o mundo avança para sistemas mais inteligentes e autônomos, a MuleSoft está comprometida em fornecer aos nossos clientes as ferramentas necessárias para liderar essa transformação, convertendo a promessa da IA em valor de negócio tangível. Estamos entusiasmados em continuar adicionando novos conectores ao nosso portfólio de AI Connectors da MuleSoft.

Para saber mais sobre a visão geral de IA na Anypoint Platform, confira nossa página MuleSoft AI Connectors.