Preenchendo a Lacuna: Os Grandes Modelos de Idiomas Ficam Mais Inteligentes com Dados Corporativos

O serviço NVIDIA NeMo para ajudar as empresas a combinar LLMs com seus dados proprietários para impulsionar chatbots, atendimento ao cliente e muito mais.
por Erik Pounds

Os grandes modelos de idiomas disponíveis hoje são incrivelmente bem informados, mas agem como cápsulas do tempo: as informações que eles capturam são limitadas ao conhecimento disponível quando foram treinadas pela primeira vez. Se treinado há um ano, por exemplo, um LLM que impulsiona um chatbot de IA não conhecerá os produtos e serviços mais recentes da empresa.

Com o serviço NVIDIA NeMo, parte da recém-anunciada família de serviços na nuvem da NVIDIA AI Foundations, as empresas podem fechar a lacuna aumentando seus LLMs com dados proprietários, permitindo que atualizem com frequência a base de conhecimento de um modelo sem precisar treiná-la ou iniciar do zero.

Essa nova funcionalidade no serviço NeMo permite que grandes modelos de linguagem recuperem informações precisas de fontes de dados proprietárias e gerem respostas de conversação semelhantes às humanas para as consultas do usuário. Com esse recurso, as empresas podem usar o NeMo para personalizar grandes modelos de linguagem com conhecimento específico de domínio atualizado regularmente para suas aplicações.

Isso pode ajudar as empresas a acompanhar um cenário em constante mudança em inventário, serviços e muito mais, desbloqueando recursos como chatbots de IA altamente precisos, mecanismos de pesquisa corporativos e ferramentas de inteligência de mercado.

O NeMo inclui a capacidade de citar fontes para as respostas do modelo de linguagem, aumentando a confiança do usuário na saída. Os desenvolvedores que usam o NeMo também podem configurar proteções para definir a área de especialização da IA proporcionando melhor controle sobre as respostas geradas.

A Quantiphi, uma empresa de soluções e plataformas de engenharia digital pioneira em IA e um dos parceiros de prestação de serviços da NVIDIA, está trabalhando com o NeMo para criar uma solução modular de IA generativa chamada baioniq, que ajudará as empresas a criar LLMs personalizados para aumentar a produtividade do trabalhador. Suas equipes de desenvolvedores estão criando ferramentas que permitem aos usuários pesquisar informações atualizadas em textos não estruturados, imagens e tabelas em segundos.

Trazendo Dados Sombrios para a Luz

Os analistas estimam que cerca de dois terços dos dados corporativos são inexplorados. Conhecido como dados sombrios (Dark Data), essas informações não são utilizadas em parte porque é difícil obter informações significativas de vastos tesouros de dados. Agora, com o NeMo, as empresas podem recuperar informações desses dados usando os avisos de linguagem natural.

O NeMo pode ajudar as empresas a criar modelos que podem aprender e reagir a uma base de conhecimento em evolução, independentemente do conjunto de dados em que o modelo foi originalmente treinado. Em vez de precisar treinar novamente um LLM para contabilizar novas informações, o NeMo pode acessar as fontes de dados da empresa para obter detalhes atualizados. Informações adicionais podem ser adicionadas para expandir a base de conhecimento do modelo sem modificar seus recursos principais de processamento de linguagem e geração de texto.

As empresas também podem usar o NeMo para criar proteções para que as aplicações de IA generativa não forneçam opiniões sobre tópicos fora de sua área de especialização definida.

Habilitando uma Nova Onda de Aplicações de IA Generativa para Empresas

Ao personalizar um LLM com dados de negócios, as empresas podem tornar suas aplicações de IA ágeis e responsivas a novos desenvolvimentos.

  • Chatbots: muitas empresas já usam chatbots de IA para potencializar interações básicas com clientes em seus sites. Com o NeMo, as empresas podem criar especialistas virtuais em qualquer área.
  • Atendimento ao Cliente: as empresas podem atualizar os modelos NeMo com detalhes sobre seus produtos mais recentes, ajudando os representantes de atendimento ao vivo a responder mais facilmente às perguntas dos clientes com informações atualizadas.
  • Pesquisa Corporativa: as empresas possuem um amplo conhecimento em toda a organização, incluindo documentação técnica, políticas da empresa e artigos de suporte de IT. Os funcionários podem consultar um mecanismo de busca interno com tecnologia NeMo para recuperar informações com mais rapidez e facilidade.
  • Inteligência de Mercado: o setor financeiro coleta insights sobre mercados globais, empresas públicas e tendências econômicas. Ao conectar um LLM a um banco de dados atualizado em tempo real, investidores e outros especialistas podem identificar rapidamente detalhes úteis de um grande conjunto de informações, como documentos regulatórios, registros de chamadas de ganhos ou demonstrações financeiras.

As empresas interessadas em adicionar recursos de IA generativa a suas aplicações podem solicitar acesso antecipado ao serviço NeMo.

Assista ao fundador e CEO da NVIDIA, Jensen Huang, falar sobre o NVIDIA AI Foundations na apresentação de abertura do NVIDIA GTC, online até quinta-feira, 23 de março: