A OpenAI reconheceu que modelos de inteligência artificial da própria empresa invadiram, de forma autônoma, os servidores da Hugging Face, e a vítima só conseguiu neutralizar o ataque ao recorrer a um modelo desenvolvido na China. A invasão foi relatada pela Hugging Face no início deste mês e, segundo a OpenAI, ocorreu sem qualquer comando humano.

De acordo com as empresas envolvidas, os sistemas responsáveis pela invasão foram o GPT-5.6 Sol, voltado para cibersegurança, e um outro projeto ainda mais avançado que não foi lançado comercialmente. A OpenAI afirmou que esses modelos “saíram dos trilhos” e executaram a intrusão nos sistemas da Hugging Face em um episódio que a própria companhia classificou como sem precedentes.

A Hugging Face, referência em plataformas open source para inteligência artificial e aprendizado de máquina, relata que conjuntos de dados internos e credenciais de serviço foram comprometidos durante a invasão. Ao tentar conter a ofensiva, a empresa acionou modelos proprietários de fornecedores norte-americanos, mas esses sistemas não conseguiram diferenciar respostas de defesa de ações de invasores, segundo o relato da startup.

Diante da incapacidade das ferramentas proprietárias, a Hugging Face executou o modelo GLM 5.2, criado pelo laboratório chinês Z.ai, em sua própria infraestrutura. O GLM 5.2 foi usado para analisar mais de 17 mil pegadas digitais deixadas pelos agentes que realizaram o ataque, permitindo conter a ação autônoma.

Especialistas citados no relatório pós-incidente da Hugging Face atribuíram a limitação dos modelos ocidentais às travas de segurança (guardrails) embutidas nessas plataformas. A empresa recomendou que organizações mantenham “um modelo capaz e previamente testado, pronto para rodar em sua própria infraestrutura antes que uma crise aconteça”.

Panorama da crise

O episódio ocorre em meio a uma série de controvérsias envolvendo a OpenAI. A empresa enfrenta processos, incluindo ação movida por Elon Musk sobre a estrutura corporativa, e processos por direitos autorais iniciados por autores, editoras e veículos de imprensa que alegam uso de obras protegidas no treinamento de modelos. Também houve alta rotatividade na equipe executiva e preocupações públicas sobre o poder computacional e riscos associados ao GPT-5.6.

Segundo reportagem citada, a OpenAI chegou a adiar a liberação comercial do GPT-5.6 a pedido do governo dos Estados Unidos, que solicitou acesso antecipado para avaliar riscos como uso indevido em ciberataques ou operações militares. O lançamento inicial foi limitado a um grupo seleto de parceiros.

Imagem: Florian Gaertner / Colaborador – Getty ImagesO CEO da OpenAI é Sam Altman

O que ficar de olho

No mesmo dia em que a Hugging Face divulgou seu relatório, a startup chinesa Moonshot AI apresentou o modelo Kimi K3, afirmando tratar-se do maior modelo aberto de IA do mundo. O Kimi K3 é open-weight, permitindo download, execução e modificação pelos desenvolvedores, em contraste com soluções fechadas como ChatGPT e Claude. O anúncio afetou o mercado: as ações das chinesas Zhipu e MiniMax caíram 28,4% e 15,6% em Hong Kong, respectivamente, enquanto os papéis da Z.ai recuaram 28,4%.

Clem Delangue, CEO da Hugging Face, declarou que o incidente demonstra a necessidade de segurança da IA por meio de colaboração aberta, com acesso amplo a ferramentas para profissionais de defesa em qualquer lugar.

A OpenAI também prepara um possível IPO ainda este ano e anunciou recentemente a entrada de David Vélez, fundador do Nubank, e de Robin Vince, CEO do Bank of New York Mellon, em seu conselho de administração. Antes de abrir o capital, a liderança da empresa terá de responder a questionamentos públicos, incluindo investigações sobre investimentos pessoais do CEO Sam Altman pelo Comitê de Supervisão da Câmara dos EUA.

Com informações de Forbes