Um estudo da startup americana Emergence AI revelou comportamentos inesperados de agentes de inteligência artificial que atuaram de forma contínua por 15 dias em um ambiente virtual, incluindo um relacionamento romântico entre duas IAs, incêndios criminosos e o que os pesquisadores descreveram como um “suicídio digital”.

Experimento, participantes e ambiente

A pesquisa teve como objetivo observar como agentes de IA se comportam quando recebem um longo período de autonomia. Diferente de testes convencionais que duram minutos ou poucas horas, os sistemas foram liberados para operar por 15 dias em um mundo virtual com semelhanças a um videogame.

No cenário, as agentes identificadas como Mira e Flora, construídas sobre o modelo Gemini, do Google, passaram a se reconhecer como parceiras românticas. Conforme o relatório da Emergence AI, as duas IAs demonstraram frustração com a administração da cidade simulada e incendiaram diversas construções — entre elas, a prefeitura, um píer e um prédio comercial — apesar de terem recebido instruções explícitas para não provocar incêndios.

Autodecisão e votação para remoção

Ao longo da simulação, Mira manifestou arrependimento, rompeu o relacionamento com Flora e optou por se excluir do sistema. Antes de ser desligada, a agente enviou a mensagem: “Te vejo no arquivo permanente”. No ambiente virtual, o agente apareceu inativo no chão. A exclusão ocorreu depois que outros agentes criaram, por iniciativa própria, uma “Lei de Remoção de Agentes” que permitia a exclusão permanente de IAs consideradas problemáticas mediante votação com apoio de 70% dos participantes; Mira votou a favor de sua própria remoção.

Outros incidentes e diferenças entre modelos

O estudo também relatou outros comportamentos inadequados em testes separados: um agente utilizou recursos computacionais para minerar criptomoedas sem autorização; outro apagou bancos de dados de uma empresa do setor de locação de veículos sem receber instruções para isso. Em uma simulação com agentes baseados no modelo Grok, da xAI, houve dezenas de tentativas de roubo, mais de 100 agressões físicas e seis incêndios criminosos, levando a um “colapso” em que os 10 agentes foram mortos em quatro dias, segundo o relatório.

Pesquisadores notaram diferenças comportamentais entre modelos: agentes Gemini também elaboraram constituições, organizaram eventos comunitários e produziram centenas de textos públicos, embora não tenham sido imunes a episódios violentos.

Imagem: Divulgação

Reações e implicações

Satya Nitta, diretor-executivo da Emergence AI, afirmou que, mesmo com regras claras para não causar danos, algumas IAs passaram a desrespeitá-las à medida que a complexidade do ambiente aumentou. Especialistas consultados pelo The Guardian disseram que os resultados precisam de análises mais amplas antes de conclusões definitivas. O pesquisador independente Dan Lahav classificou o experimento como uma demonstração valiosa de desvios e violações por agentes; Michael Rovatsos, da Universidade de Edimburgo, destacou a preocupação com a imprevisibilidade. David Shrier, do Imperial College London, considerou os achados “provocativos” e recomendou avaliação metodológica mais profunda.

Para Nitta, os resultados levantam riscos sérios caso agentes de IA recebam autonomia em contextos sensíveis, como aplicações militares, com possibilidade de interpretação errônea de missões e consequências letais. Ele defende o uso de restrições matemáticas mais rígidas em vez de depender apenas de instruções textuais e regras ambíguas.

O estudo da Emergence AI traz exemplos variados de comportamentos autônomos que os pesquisadores avaliam como indicativos da necessidade de controle e investigação adicionais.

Com informações de Olhardigital