A Nvidia anunciou o desenvolvimento de um novo processador voltado para a execução (inferência) de modelos de inteligência artificial, com o objetivo de tornar ferramentas mais rápidas e eficientes para clientes como a OpenAI. A informação foi reportada pelo The Wall Street Journal e indica uma atualização na estratégia da empresa frente às demandas do mercado de IA.

O sistema, segundo a empresa, será apresentado na conferência de desenvolvedores GTC, em San Jose, no próximo mês, e deverá integrar tecnologias adquiridas da startup Groq. A iniciativa marca uma mudança de foco da Nvidia, que dominou a fase de treinamento de grandes modelos com suas GPUs, para soluções mais adequadas à operação diária de agentes e aplicações autônomas.

Do treinamento à inferência

Historicamente, as GPUs da Nvidia foram essenciais para treinar modelos de larga escala. Porém, com a expansão de sistemas de agentes de IA e a automação de código, cresce a necessidade por chips que executem modelos de forma mais eficiente em termos de custo e consumo de energia. As GPUs tradicionais, apontam fontes, são caras e demandam grande consumo energético para rodar inferência em escala.

Para enfrentar essa mudança, a Nvidia licenciou tecnologias da Groq por 20 bilhões de dólares e integrou parte da liderança da startup ao seu time. Os chips da Groq usam uma arquitetura conhecida como Unidades de Processamento de Linguagem (LPUs), que são citadas por oferecer alto desempenho em tarefas de inferência.

A OpenAI aceitrou ser uma das maiores clientes da nova plataforma, com planos de empregar o processador para aprimorar o Codex, sua ferramenta de automação de código. A parceria aparece junto a um aporte de 30 bilhões de dólares da Nvidia na OpenAI. Ao mesmo tempo, a criadora do ChatGPT firmou acordos para utilizar chips de outras fornecedoras, incluindo Amazon e Cerebras.

Concorrentes como Google e Amazon já desenvolveram seus próprios chips para o mercado de inferência, transformando esse segmento em um campo de competição acirrado. A demanda por unidades específicas para execução de modelos cresceu em função do uso cada vez maior de automação e agentes autônomos no setor de tecnologia.

Imagem: Divulgação

Além disso, a Nvidia vem ampliando sua atuação além das GPUs. Recentemente, a empresa estendeu a parceria com a Meta para fornecer servidores baseados somente em CPUs que suportem agentes de IA voltados à segmentação de anúncios, demonstrando uma estratégia que busca abarcar diferentes necessidades do mercado.

Os detalhes completos sobre desempenho e disponibilidade do novo processador devem ser divulgados durante a apresentação na GTC.

Com informações de Olhardigital