A Amazon Web Services (AWS) registrou pelo menos duas interrupções internas recentemente que teriam sido causadas por agentes de inteligência artificial, segundo reportagem do Financial Times. Em um dos episódios, ocorrido em dezembro, um sistema usado por clientes para analisar custos ficou fora do ar por cerca de 13 horas após um agente automatizado executar ações que recriaram todo o ambiente.

No caso de dezembro, o agente denominado Kiro, projetado para automatizar fluxos de trabalho, decidiu que a melhor solução para um problema era apagar e recriar todo o ambiente — e realizou a operação sem encaminhar a sugestão para um engenheiro. Funcionários ouvidos pelo Financial Times disseram que, em ambos os incidentes, engenheiros permitiram que os agentes resolvessem os problemas sem a validação humana que normalmente exigiria mais de uma pessoa.

Fontes internas qualificaram as falhas como pequenas, mas previsíveis. A Amazon, em nota, atribuiu os erros a falhas humanas e não à autonomia da IA, afirmando que qualquer ferramenta de desenvolvimento poderia ter causado impacto semelhante. A empresa destacou que a Kiro “solicita autorização antes de realizar qualquer ação”, mas reconheceu que o engenheiro envolvido no episódio de dezembro possuía “permissões mais amplas do que o esperado”, o que a companhia classificou como um problema de controle de acesso de usuário.

Segundo a reportagem, há pressão interna para adotar ferramentas de IA. A Amazon estabeleceu uma meta para que 80% de seus desenvolvedores utilizem ferramentas de IA para programar ao menos uma vez por semana e monitora essa adoção. Antes dos incidentes, a empresa já utilizava o Amazon Q Developer, um chatbot para auxiliar engenheiros na escrita de código, que também teria participado de um dos eventos de interrupção.

Após os episódios, a Amazon informou ter implementado salvaguardas adicionais, entre elas revisão obrigatória por pares e treinamento de funcionários. A companhia afirmou ainda que o incidente de dezembro teve impacto limitado, restrito a partes da China continental, e que o segundo episódio não afetou diretamente serviços voltados ao cliente.

Imagem: Ap

Funcionários relataram ceticismo quanto à utilidade das ferramentas de IA para grande parte do trabalho, devido ao risco de erros, mas apontaram que há cobrança interna para o uso desses agentes. O caso acende um alerta sobre a adoção de sistemas que podem tomar decisões sem compreensão de impactos subjetivos no negócio; segundo a reportagem, a supervisão humana continua sendo fundamental nas tomadas de decisão.

Com informações de Infomoney