Durante anos, a Nvidia dominou o mercado de inteligência artificial graças às suas GPUs, enquanto Intel e AMD continuavam sendo as principais responsáveis pelos processadores que coordenavam esses aceleradores dentro dos servidores. Essa divisão de responsabilidades começou a mudar com a família Grace, mas agora a empresa deu um passo muito mais ousado.
O Vera é o primeiro processador totalmente desenvolvido pela Nvidia, deixando de lado os núcleos prontos da Arm para apostar em um design próprio. Mais do que apenas acompanhar suas GPUs Rubin, o chip também pretende disputar espaço como um processador independente para datacenters, oferecendo uma alternativa aos tradicionais Xeon e EPYC.
Empresas como Meta, Oracle, Alibaba, ByteDance, CoreWeave, Lambda, Nebius e NScale já anunciaram planos para utilizar a nova plataforma em suas infraestruturas, mostrando que existe interesse em um mercado historicamente dominado pelos fabricantes tradicionais de CPUs.
Um chip projetado para IA desde a origem
O Vera foi concebido pensando em duas tarefas principais. A primeira é atuar como CPU de controle dos futuros sistemas Vera Rubin, coordenando GPUs, memória e dispositivos de armazenamento em clusters voltados para inteligência artificial.
A segunda é servir como hospedeiro para agentes de IA. Embora modelos de linguagem executem suas inferências nas GPUs, boa parte do trabalho de um agente inteligente envolve executar código, controlar containers, acessar bancos de dados, navegar na web e coordenar diferentes aplicações, tarefas que continuam dependendo fortemente do processador.
Essa preocupação explica diversas decisões arquitetônicas adotadas pela Nvidia.
Um design diferente da concorrência
Embora utilize chiplets, o Vera não segue exatamente a mesma filosofia adotada pela AMD. Enquanto os EPYC distribuem seus núcleos entre vários pequenos dies de processamento, a Nvidia concentrou todos os 88 núcleos em um único chip monolítico fabricado em processo de 3 nanômetros da TSMC.
Ao redor desse die ficam componentes especializados responsáveis pelos controladores de memória LPDDR5X, interfaces PCI Express, CXL e NVLink.
Segundo a Nvidia, manter todos os núcleos no mesmo pedaço de silício reduz significativamente a latência entre eles, evitando parte da comunicação adicional existente em arquiteturas compostas por diversos chiplets independentes.
É uma escolha que privilegia o desempenho e a comunicação interna, embora normalmente resulte em um chip mais caro de fabricar.
O Vera CPU Superchip
Assim como ocorre com servidores tradicionais, o Vera pode operar em configuração de um ou dois soquetes. Na configuração dupla temos o chamado Vera CPU Superchip.
Nesse formato, dois processadores são conectados através do NVLink-C2C, oferecendo impressionantes 1,8 TB/s de largura de banda bidirecional entre eles.
O resultado é um sistema com:
- 176 núcleos;
- 352 threads;
- Até 3 TB de memória LPDDR5X;
- 2,4 TB/s de largura de banda de memória.
Para workloads de IA, a Nvidia afirma que um único rack pode acomodar até 128 desses Superchips, totalizando mais de 22 mil núcleos e 384 TB de memória. São números que demonstram claramente que o objetivo é alimentar grandes infraestruturas de computação em nuvem.
Olympus: o primeiro núcleo totalmente customizado
A principal novidade do Vera é o núcleo Olympus. Até então, a Nvidia utilizava projetos licenciados diretamente da Arm, como os Neoverse V2 e V3. Agora, ela desenvolveu sua própria implementação compatível com a arquitetura ARMv9.2.
O Olympus possui uma estrutura bastante robusta, incluindo:
- Decodificador de 10 instruções por ciclo;
- Oito unidades inteiras (ALUs);
- Seis unidades vetoriais SVE2;
- Quatro unidades de carregamento;
- Duas unidades de armazenamento.
Embora sua organização lembre bastante o Cortex X925 da própria Arm, a Nvidia realizou diversas modificações internas para reduzir gargalos de execução e aumentar o número de instruções processadas por ciclo (IPC).
O foco claramente não foi aumentar apenas a frequência de operação, mas manter o pipeline constantemente ocupado.
Um preditor de desvios baseado em IA
Entre as novidades mais interessantes está o novo sistema de previsão de desvios. Todo processador moderno tenta antecipar quais instruções serão executadas em seguida para evitar que suas unidades fiquem ociosas.
O Olympus utiliza um preditor neural capaz de explorar simultaneamente dois caminhos diferentes de execução.
Isso reduz erros de previsão e melhora o desempenho em softwares com muitos desvios condicionais, como interpretadores Python, frameworks modernos e aplicações utilizadas por agentes de IA.
A Nvidia também implementou mecanismos de previsão de valores e renomeação de memória, permitindo que determinadas instruções sejam executadas antes mesmo de todos os dados estarem disponíveis, reduzindo tempos de espera dentro do pipeline.
Um SMT diferente do tradicional
Um dos recursos mais diferentes do Vera é sua implementação de multithreading. Enquanto a Intel utiliza Hyper-Threading e a AMD emprega o SMT tradicional, a Nvidia desenvolveu o que chama de Spatial Multithreading.
Em vez de duas threads competirem pelos mesmos recursos do núcleo, o Olympus pode praticamente dividir parte de sua estrutura em duas pequenas unidades independentes. É como transformar um núcleo robusto em dois menores compartilhando parte do cache.
Essa abordagem reduz disputas entre threads e pode beneficiar especialmente aplicações executadas em containers, onde frequentemente existe um processo principal trabalhando ao lado do ambiente responsável pela execução daquele container.
É uma solução bastante diferente do SMT convencional encontrado nos processadores x86.
Memória extremamente rápida
Outro ponto forte do Vera é seu sistema de memória. O chip utiliza oito controladores LPDDR5X capazes de entregar cerca de 1,2 TB/s de largura de banda por processador.
Na configuração Superchip esse número sobe para 2,4 TB/s. Embora AMD e Intel devam alcançar números semelhantes em suas próximas gerações, a Nvidia aposta em outro diferencial: o consumo energético.
Como utiliza memória LPDDR5X em vez dos tradicionais módulos RDIMM, a empresa afirma que o subsistema de memória consome entre 30 e 40 watts, contra valores que podem ultrapassar 100 watts em servidores convencionais.
Essa economia pode representar uma diferença significativa em grandes datacenters com milhares de servidores operando continuamente.
Uma malha interna de altíssima velocidade
Conectar 88 núcleos em um único chip exige uma infraestrutura de comunicação extremamente eficiente. Para isso, a Nvidia desenvolveu a segunda geração do Scalable Coherency Fabric (SCF).
Essa malha coerente oferece cerca de 3,4 TB/s de largura de banda interna, permitindo que núcleos, caches, memória e interfaces de entrada e saída compartilhem dados rapidamente. O cache de último nível também é distribuído ao longo dessa malha, evitando gargalos centralizados.
Sem esse sistema, seria praticamente impossível alimentar tantos núcleos utilizando toda a largura de banda disponível.
PCI Express 6.0, CXL e NVLink
Além da memória, o Vera também investe pesado em conectividade. O processador suporta:
- PCI Express 6.0;
- CXL 3.1;
- NVLink-C2C.
Cada slot PCIe 6.0 x16 pode atingir até 128 GB/s de transferência unidirecional.
Já o suporte ao CXL 3.1 permite compartilhar memória entre múltiplos servidores, algo que vem ganhando importância em ambientes voltados para IA.
O NVLink continua sendo um dos maiores diferenciais da Nvidia. Sua largura de banda de 1,8 TB/s reduz significativamente os gargalos de comunicação entre CPUs e GPUs, tornando o Vera especialmente interessante quando utilizado ao lado das futuras GPUs Rubin.
E o desempenho?
Como era esperado, a Nvidia divulgou números bastante otimistas. Segundo a empresa, o Vera oferece até 1,8 vez mais desempenho por núcleo que um AMD EPYC 9755 em workloads voltados para agentes de IA. Em determinadas tarefas de processamento de grafos, o ganho chegaria a 2,6 vezes.
Naturalmente, esses resultados foram produzidos pela própria fabricante e ainda precisam ser confirmados por benchmarks independentes. Além disso, as comparações utilizam processadores lançados anteriormente, enquanto AMD e Intel já preparam suas próximas gerações, como os futuros EPYC Venice e Xeon Diamond Rapids.
Fique por dentro das principais novidades da semana sobre tecnologia e Linux: receba nossa newsletter!