O Royal Bank of Canada construiu um cloud baseado na NVIDIA DGX e o vinculou a um investimento estratégico em AI. Apesar dos ventos contrários da pandemia global, ele permitirá que o RBC transforme as experiências dos clientes.
O projeto começou no outono de 2017. Foi quando o RBC, o maior banco do Canadá com 17 milhões de clientes em 36 países, criou seu instituto de pesquisa dedicado, o Borealis AI. O instituto está sediado próximo ao MaRS Discovery District de Toronto, um hub global para especialistas em machine learning.
O Borealis AI atraiu rapidamente dezenas dos principais pesquisadores. Isso não surpreende, dado que o instituto é liderado pelo CSO (Chief Science Officer) do banco, Foteini Agrafioti, um empresário em série detentor de patentes e com Ph.D. em engenharia elétrica e de computadores que co-preside ao conselho consultivo de AI do Canadá.
O banco inicializou o Borealis AI em uma gama de sistemas. Mas, à medida que o grupo e os modelos de AI que ele desenvolveu cresceram, ele precisou de um mecanismo de AI maior e dedicado.
Intermediação de um Cloud Privado de AI para Serviços Bancários
“Tive a sorte de ajudar a comissionar nossa primeira infraestrutura para a Borealis AI, mas não foi adequado para atender às crescentes necessidades de AI”, disse Mike Tardif, vice-presidente sênior de infraestrutura de tecnologia da RBC.
A equipe queria um sistema de AI distribuído que atendesse a quatro locais, de Vancouver a Montreal, com segurança atrás do firewall do banco. Ele precisava ser escalado à medida que as cargas de trabalho cresciam e alavancar o fluxo regular de inovações de AI em software de código aberto, sem a necessidade de atualizações de hardware.
Em suma, o banco pretendia criar um cloud privado de AI de última geração. Para suas principais plataformas, a RBC escolheu seis sistemas NVIDIA DGX e o OpenShift da Red Hat para orquestrar contêineres em execução nesses sistemas.
“Vemos a NVIDIA como líder em infraestrutura de AI. Já estávamos usando seus sistemas DGX e queríamos expandir nossos recursos de AI, por isso foi uma escolha óbvia ”, disse Tardif.
AI Direciona o Banco para Aplicações Inteligentes
A RBC já está divulgando resultados sólidos com o sistema, apesar de comissioná-lo no início deste ano em face da tempestade do COVID-19.
O cloud privado de AI pode executar milhares de simulações e analisar milhões de pontos de dados em uma fração do tempo de antes, afirma o banco. Como resultado, espera transformar a experiência bancária do cliente com uma nova geração de aplicações inteligentes. E isso é apenas o começo.
“Por exemplo, em nossos negócios no mercado de capitais, agora podemos treinar milhares de modelos estatísticos em paralelo para cobrir esse vasto espaço de possibilidades”, disse Agrafioti, chefe da Borealis AI.
“Isso seria impossível sem um ambiente distribuído e totalmente automatizado. Podemos preencher o cluster inteiro com um único clique usando o pipeline automatizado fornecido por esta nova solução ”, acrescentou.
A plataforma já ajudou a reduzir as reclamações de clientes e resultou na entrega mais rápida de novas aplicações para clientes RBC, graças 
ao desempenho das GPUs combinadas à automação de contêineres orquestrados.
A RBC implantou o Red Hat OpenShift em combinação com a infraestrutura NVIDIA DGX para acelerar rapidamente as instâncias de computação de AI em uma fração do tempo que levava.
O OpenShift ajuda criando um ambiente onde os usuários podem executar milhares de contêineres simultaneamente, extraindo conjuntos de dados para treinar modelos de AI e executá-los na produção em sistemas DGX, disse Yan Fisher, evangelista global de tecnologias emergentes da Red Hat.
O OpenShift e o NGC, o centro de software da NVIDIA, permitem que as empresas apoiem o banco remotamente através da pandemia, acrescentou.
“Construir nossa infraestrutura de AI com a NVIDIA DGX nos deu recursos internos semelhantes ao que as Amazons e os Googles do mundo oferecem e alcançamos algumas economias significativas no custo total de propriedade”, disse Tardif.
Ele destacou como principais ativos de hardware a interconexão NVLink e o suporte da NVIDIA aos padrões de rede corporativa com largura de banda máxima e latência reduzida. Eles permitem que os usuários acessem rapidamente várias GPUs dentro e entre sistemas nos data centers que hospedam o cloud de AI do banco.
Como um Banco com uma Longa História se Mantém Inovador
Embora tenha 150 anos, o RBC se mantém em sintonia com os tempos, investindo cedo em tecnologias emergentes, como fez com o Borealis AI.
“A inovação está em nosso DNA: estamos sempre olhando para o que está por vir e como podemos operacionalizá-lo, e a AI é uma das principais prioridades estratégicas”, disse Tardif.
Embora sua especialização principal seja o setor bancário, o RBC também possui ramificações em tecnologia. Durante o lockdown do COVID, ele conseguiu “testar a pressão” dos sistemas mais recentes, empurrando-os para muito além do que eles pensavam serem seus limites.
“Estamos co-criando essa visão da infraestrutura de AI com a NVIDIA e, por essa jornada, estamos elevando o nível da inovação em AI da qual todos os profissionais do setor de serviços financeiros podem se beneficiar”, disse Tardif.
Visite a página de soluções para serviços financeiros da NVIDIA para saber mais.