O Que É a AI no Edge e Como Funciona?

por Tiffany Yeung

Os avanços recentes na eficácia da AI, a adoção de dispositivos IoT e o poder da computação no edge se uniram para liberar o poder da AI no edge.

Isso abriu novas oportunidades para a AI no edge que antes eram inimagináveis, desde ajudar os radiologistas a identificar patologias no hospital, dirigir carros na estrada e nos ajudar a polinizar plantas.

Inúmeros analistas e empresas estão falando e implementando a computação no edge, que remonta à década de 1990, quando as redes de entrega de conteúdo foram criadas para servir conteúdo da Web e de vídeo a partir de servidores no edge implantados perto dos usuários.

Hoje, quase todas as empresas têm funções de trabalho que podem se beneficiar da adoção da AI no edge. Na verdade, as aplicações no edge estão impulsionando a próxima onda de AI de maneiras que melhoram nossas vidas em casa, no trabalho, na escola e no trânsito.

Saiba mais sobre o que é a AI no edge, seus benefícios e como ela funciona, exemplos de casos de uso de AI no edge e a relação entre computação no edge e computação no cloud.

O Que é AI no Edge?

AI no Edge é a implantação de aplicações de AI em dispositivos em todo o mundo físico. É chamado de “AI no Edge” porque a computação de AI é feita perto do usuário no edge (na ponta) da rede, perto de onde os dados estão localizados, em vez de centralmente em uma instalação de computação no cloud ou no data center privado.

Como a internet tem alcance global, o edge da rede pode conotar qualquer local. Pode ser uma loja de varejo, fábrica, hospital ou dispositivos ao nosso redor, como semáforos, máquinas autônomas e telefones.

AI no Edge: Por Que Agora?

Empresas de todos os setores estão procurando aumentar a automação para melhorar os processos, a eficiência e a segurança.

Para ajudá-los, os programas de computador precisam reconhecer padrões e executar tarefas repetidamente e com segurança. Mas o mundo é desestruturado e a gama de tarefas que os humanos realizam abrange infinitas circunstâncias que são impossíveis de descrever completamente em programas e regras.

Os avanços na AI no Edge abriram oportunidades para máquinas e dispositivos, onde quer que estejam, para operar com a “inteligência” da cognição humana. As aplicações inteligentes habilitadas para AI aprendem a executar tarefas semelhantes em diferentes circunstâncias, como na vida real.

A eficácia da implantação de modelos de AI no Edge surge de três inovações recentes.

  1. Maturação das redes neurais: as redes neurais e a infraestrutura de AI relacionada finalmente se desenvolveram a ponto de permitir o machine learning generalizado. As empresas estão aprendendo a treinar modelos de AI com sucesso e implantá-los na produção no edge.
  2. Avanços na infraestrutura de computação: é necessário um poderoso poder computacional distribuído para executar a AI no Edge. Avanços recentes em GPUs altamente paralelas foram adaptados para executar redes neurais.
  3. Adoção de dispositivos IoT: A adoção generalizada da Internet das Coisas alimentou a explosão do big data. Com a capacidade repentina de coletar dados em todos os aspectos de um negócio, desde sensores industriais, câmeras inteligentes, robôs e muito mais, agora temos os dados e dispositivos necessários para implantar modelos de AI no Edge. Além disso, o 5G está dando um impulso à IoT com conectividade mais rápida, estável e segura.

Por Que Implantar a AI no Edge? Quais São as Vantagens da AI no Edge?

Como os algoritmos de AI são capazes de entender linguagem, imagens, sons, cheiros, temperatura, rostos e outras formas analógicas de informações não estruturadas, eles são particularmente úteis em locais ocupados por usuários finais com problemas do mundo real. Essas aplicações de AI seriam impraticáveis ​​ou até impossíveis de implantar em um cloud centralizado ou data center corporativo devido a problemas relacionados à latência, largura de banda e privacidade.

As vantagens da AI no Edge incluem:

  • Inteligência: as aplicações de AI são mais poderosas e flexíveis do que as aplicações convencionais que podem responder apenas às entradas que o programador previu. Em contraste, uma rede neural de AI não é treinada para responder a uma pergunta específica, mas sim como responder a um tipo específico de pergunta, mesmo que a pergunta em si seja nova. Sem AI, as aplicações não poderiam processar entradas infinitamente diversas, como textos, palavras faladas ou vídeo.
  • Insights em tempo real: como a tecnologia no edge analisa os dados localmente, e não em um cloud distante, atrasada por comunicações de longa distância, ela responde às necessidades dos usuários em tempo real.
  • Custo reduzido: Ao aproximar o poder de processamento no edge, as aplicações precisam de menos largura de banda da Internet, reduzindo bastante os custos de rede.
  • Maior privacidade: a AI pode analisar informações do mundo real sem nunca expô-las a um ser humano, aumentando muito a privacidade de qualquer pessoa cuja aparência, voz, imagem médica ou qualquer outra informação pessoal precise ser analisada. A AI no Edge aumenta ainda mais a privacidade ao conter esses dados localmente, carregando apenas as análises e insights para a nuvem. Mesmo que alguns dos dados sejam carregados para fins de treinamento, eles podem ser anonimizados para proteger as identidades dos usuários. Ao preservar a privacidade, a AI no Edge simplifica os desafios associados à conformidade regulatória de dados.
  • Alta disponibilidade: a descentralização e os recursos off-line tornam a AI no Edge mais robusta, pois o acesso à Internet não é necessário para o processamento de dados. Isso resulta em maior disponibilidade e confiabilidade para aplicações de AI de nível de produção de missão crítica.
  • Melhoria persistente: os modelos de AI ficam cada vez mais precisos à medida que são treinados com mais dados. Quando uma aplicação de AI no Edge confronta dados que não pode processar com precisão ou confiança, ela normalmente os carrega para que a AI possa treinar novamente e aprender com eles. Portanto, quanto mais tempo um modelo estiver em produção no edge, mais preciso será o modelo.

Como Funciona a Tecnologia de AI no Edge?

Ciclo de Vida de uma Aplicação de AI no Edge.

Para que as máquinas vejam, realizem a detecção de objetos, conduzam carros, entendam a fala, falem, andem ou emulem as habilidades humanas, elas precisam replicar funcionalmente a inteligência humana.

A AI emprega uma estrutura de dados chamada rede neural profunda para replicar a cognição humana. Esses DNNs são treinados para responder a tipos específicos de perguntas, mostrando muitos exemplos desse tipo de pergunta junto com as respostas corretas.

Esse processo de treinamento, conhecido como “deep learning”, geralmente é executado em um data center ou no cloud devido à grande quantidade de dados necessários para treinar um modelo preciso e à necessidade de cientistas de dados colaborarem na configuração do modelo. Após o treinamento, o modelo se forma para se tornar um “motor de inferência” que pode responder a perguntas do mundo real.

Nas implantações de AI no Edge, o mecanismo de inferência é executado em algum tipo de computador ou dispositivo em locais distantes, como fábricas, hospitais, carros, satélites e residências. Quando a AI encontra um problema, os dados problemáticos geralmente são carregados no cloud para treinamento adicional do modelo original de AI, que em algum momento substitui o mecanismo de inferência na borda. Esse ciclo de feedback desempenha um papel significativo no aumento do desempenho do modelo; uma vez que os modelos de AI no Edge são implantados, eles ficam cada vez mais inteligentes.

Quais São Exemplos de Casos de Uso de AI no Edge?

A AI é a força tecnológica mais poderosa do nosso tempo. Estamos agora em um momento em que a AI está revolucionando as maiores indústrias do mundo.

Na manufatura, área da saúde, serviços financeiros, transporte, energia e muito mais, a AI no Edge está gerando novos resultados de negócios em todos os setores, incluindo:

  • Previsão inteligente em energia:Para setores críticos como energia, em que o fornecimento descontínuo pode ameaçar a saúde e o bem-estar da população em geral, a previsão inteligente é fundamental. Os modelos de AI no Edge ajudam a combinar dados históricos, padrões climáticos, integridade da rede e outras informações para criar simulações complexas que informam geração, distribuição e gerenciamento mais eficientes de recursos de energia para os clientes.
  • Manutenção preditiva na manufatura: os dados do sensor podem ser usados ​​para detectar anomalias antecipadamente e prever quando uma máquina falhará. Sensores no equipamento verificam falhas e alertam o gerenciamento se uma máquina precisar de reparo para que o problema possa ser resolvido antecipadamente, evitando tempo de inatividade dispendioso.
  • Instrumentos com tecnologia de AI na área da saúde: instrumentos médicos modernos no edge estão se tornando habilitados para AI com dispositivos que usam streaming de vídeo cirúrgico de latência ultrabaixa para permitir cirurgias minimamente invasivas e insights sob demanda.
  • Assistentes virtuais inteligentes no varejo: os varejistas estão procurando melhorar a experiência digital do cliente introduzindo pedidos por voz para substituir pesquisas baseadas em texto por comandos de voz. Com o pedido por voz, os compradores podem pesquisar itens com facilidade, solicitar informações sobre produtos e fazer pedidos on-line usando alto-falantes inteligentes ou outros dispositivos móveis inteligentes.

Qual o Papel da Computação no Cloud na Computação no Edge?

As aplicações de AI podem ser executadas em um data center como os de cloud públicas ou em campo no edge da rede, perto do usuário. A computação no cloud e a computação no edge oferecem vantagens que podem ser combinadas ao implantar a AI no Edge.

O cloud oferece vantagens relacionadas ao custo da infraestrutura, escalabilidade, alta utilização, resiliência a falhas do servidor e colaboração. A computação no edge oferece tempos de resposta mais rápidos, custos de largura de banda mais baixos e resiliência contra falhas de rede.

Existem várias maneiras pelas quais a computação no cloud pode oferecer suporte a uma implantação de AI no Edge:

  • O cloud pode executar o modelo durante seu período de treinamento.
  • O cloud continua a executar o modelo à medida que é retreinado com dados provenientes do edge.
  • O cloud pode executar mecanismos de inferência de AI que complementam os modelos em campo quando o alto poder de computação é mais importante do que o tempo de resposta. Por exemplo, um assistente de voz pode responder ao seu nome, mas enviar solicitações complexas de volta ao cloud para análise.
  • O cloud oferece as versões mais recentes do modelo e aplicação de AI.
  • A mesma AI no Edge geralmente é executada em uma frota de dispositivos em campo com software no cloud.

Saiba mais sobre as práticas recomendadas para arquiteturas híbridas no edge.

O Futuro da AI no Edge

Graças ao amadurecimento comercial das redes neurais, proliferação de dispositivos IoT, avanços na computação paralela e 5G, agora existe uma infraestrutura robusta para machine learning generalizado. Isso está permitindo que as empresas capitalizem a colossal oportunidade de trazer a AI para seus locais de negócios e agir com base em insights em tempo real, ao mesmo tempo em que diminuem os custos e aumentam a privacidade.

Estamos apenas no início da AI no Edge, e ainda as aplicações possíveis parecem infinitas.

Saiba como sua empresa pode implantar a AI no Edge verificando as principais considerações para sua implantação.