As operadoras de telecomunicações estão cada vez mais construindo suas estratégias de IA sobre modelos abertos, e os motivos vão além do custo.
Modelos abertos dão às telcos a capacidade de confiar, controlar e personalizar a IA nas cargas de trabalho mais críticas, das redes autônomas ao atendimento ao cliente.
O relatório State of AI in Telecommunications da NVIDIA reflete essa mudança: 89% das pessoas que responderam dizem que modelos e software open source são importantes para a estratégia de IA da empresa.
Para as operadoras, o valor estratégico dos modelos abertos se divide em cinco pontos:
- Ampliam o acesso a inteligência de nível de fronteira a um custo menor, o que permite reservar os modelos fechados para as cargas de trabalho em que eles geram mais valor. Benchmarks independentes como o Artificial Analysis Intelligence Index v4.3.2 mostram que os principais modelos abertos estão ficando mais competitivos em cargas exigentes de raciocínio, programação, ciência e agentes.
- Permitem personalização específica para telecom, com pesos abertos e receitas de treinamento que as operadoras podem usar para fazer fine-tuning com dados próprios de rede, de cliente e do setor.
- Viabilizam IA confiável, ao dar às telcos mais visibilidade e controle sobre os artefatos e o comportamento do modelo, de forma que ele possa ser avaliado, adaptado e governado em linha com as regulações e as políticas do negócio.
- Viabilizam implantação flexível e segura: os times conseguem dimensionar e otimizar modelos abertos para rodar em nuvens públicas, infraestrutura privada e ambientes de edge.
- Abrem a oportunidade de as telcos entregarem serviços de IA adaptados localmente a clientes corporativos e de governo, hospedando e fazendo fine-tuning de modelos abertos.
Bases abertas, ajustadas para operações de telecom
A família de modelos abertos NVIDIA Nemotron oferece performance de raciocínio de nível de fronteira otimizada para fluxos de trabalho baseados em agentes, além de capacidades de fala para aplicações de voz, com pesos abertos, dados de treinamento e receitas.
A SoftBank Corp. ilustra como uma operadora pode usar modelos abertos como base para desenvolver e evoluir continuamente suas capacidades de IA específicas para telecom.
“Modelos abertos permitem que a SoftBank Corp. se apoie no avanço rápido dos modelos fundacionais globais enquanto aplica o conhecimento de rede e a experiência operacional que acumulamos ao longo de muitos anos”, disse Rajeev Koodli, principal fellow da SoftBank Corp. e senior vice president da SB Telecom America. “Estamos usando bases abertas de forma extensiva, incluindo modelos NVIDIA Nemotron e outros, no desenvolvimento do nosso SoftBank Large Telecom Model, e evoluindo o modelo continuamente para casos de uso específicos de telecom, como operação, projeto e gestão geral de rede.”
Além disso, a NVIDIA está colaborando com parceiros para transformar modelos abertos em blocos de construção práticos para IA em telecom.
A NVIDIA anunciou o Nemotron 3 Large Telco Model (LTM), de 30 bilhões de parâmetros, com fine-tuning feito pela AdaptKey sobre datasets abertos de telecom, para entregar ganhos de precisão em tarefas específicas do setor. Isso dá às operadoras uma base aberta que entende a terminologia do setor e raciocina de forma eficaz em fluxos de operação de rede, como configuração e triagem de incidentes de clientes.
Para ajudar as operadoras a personalizar o Nemotron 3 LTM e outros modelos abertos com os próprios dados operacionais, a NVIDIA publicou a receita completa, que percorre o pipeline de fine-tuning de ponta a ponta para adaptar modelos abertos a redes, clientes e procedimentos específicos de cada operadora, com as bibliotecas abertas do NVIDIA NeMo.
Levar modelos abertos para fluxos de produção
Modelos abertos são um bloco de construção crítico, mas é preciso mais do que modelos para levar a operação autônoma de telecom para produção com segurança.
Para a AT&T, o valor da escolha de modelo está em tornar essa flexibilidade operacional, alinhada às prioridades do negócio.
“Na AT&T, acreditamos que o futuro da IA não está em escolher um único modelo. Está em combinar de forma inteligente cada carga de trabalho com o conjunto certo de performance, custo e controle”, disse Andy Markus, chief data and AI officer da AT&T. “Modelos abertos são essenciais para essa abordagem e, com a NVIDIA, conseguimos levar essa estratégia de escolha de modelo para produção com a escala, a confiabilidade e a governança que o nosso negócio exige.”
As operadoras precisam de pipelines que preparem e protejam seus dados para o fine-tuning dos modelos, anonimizando registros sensíveis e gerando datasets sintéticos que preservam a privacidade. Precisam também de uma plataforma capaz de transformar modelos abertos em fluxos de trabalho governados e autônomos baseados em agentes.
A NVIDIA oferece essa plataforma de ponta a ponta, impulsionada pelo software NVIDIA AI Enterprise e pelo NVIDIA Agent Toolkit, cobrindo pipelines de dados, modelos abertos, orquestração de agentes, runtimes seguros e simulação.
Com um ecossistema de parceiros forte construindo em cada camada dessa plataforma, as operadoras têm um caminho claro para traduzir os benefícios dos modelos abertos em fluxos de IA prontos para produção.
Criar uma plataforma para inovação local em IA
À medida que as operadoras constroem infraestrutura de IA alinhada às estratégias nacionais de IA, os modelos abertos dão a elas uma base para entregar serviços de IA sob medida para idiomas, setores, regulações e requisitos de governança de dados locais.
Operadoras de diferentes países podem fazer fine-tuning de modelos abertos para necessidades de idioma local e de setor, além de hospedar modelos abertos em suas plataformas confiáveis, que os clientes consomem diretamente ou usam como base para construir com dados e aplicações próprios.
Para a Indosat Ooredoo Hutchison, uma das maiores operadoras de telecomunicações da Indonésia, isso significa construir uma IA que reflete o idioma e a cultura do país, por meio da família de modelos open source Sahabat-AI.
“Para países como a Indonésia, o valor dos modelos abertos vai além do acesso a uma IA poderosa. Está em adaptar essa inteligência ao nosso idioma, à nossa cultura, aos nossos dados e às nossas necessidades reais”, disse Chirag Sukhadia, chief data and AI officer da Indosat Ooredoo Hutchison. “O Sahabat-AI coloca isso em prática, usando modelos abertos como base para construir uma IA que entende a Indonésia e pode ser desenvolvida para aplicações locais. Isso nos permite não apenas adotar a IA, mas construir capacidades em torno dela e fazer com que mais pessoas na Indonésia criem com IA nos próprios termos.”
Saiba mais sobre as tecnologias NVIDIA para telecomunicações.