Pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) anunciaram um método de treinamento que diminui a tendência de superconfiança em modelos de inteligência artificial. O trabalho, publicado na revista Nature Machine Intelligence, aponta a inicialização aleatória padrão das redes neurais como a principal causa de previsões imprecisas ou fabricadas.

Como funciona a estratégia de “aquecimento”

A equipe liderada pelo professor Se-Bum Paik propôs uma estratégia de “aquecimento” que ajusta a incerteza do modelo antes da aprendizagem com dados reais. No procedimento, as redes neurais passam por um curto período de treinamento com ruído e rótulos aleatórios antes de serem expostas ao conjunto de treino definitivo.

Os autores afirmam que essa etapa replica a atividade neural espontânea observada no desenvolvimento do cérebro humano, quando circuitos se organizam a partir de sinais internos sem estímulos externos. Segundo os pesquisadores, isso permite que o sistema aprenda um estado inicial de “não saber nada”, calibrando melhor a confiança em previsões futuras.

Modelos treinados pela técnica mantêm níveis de confiança baixos para conteúdos desconhecidos, próximos ao acaso, o que contrasta com redes convencionais que frequentemente exibem alta confiança em respostas incorretas desde a inicialização. A pesquisa relaciona essa característica à ocorrência de alucinações em IAs generativas, quando informações falsas são apresentadas de modo plausível.

O método também se mostrou eficaz na detecção de dados atípicos ou fora da distribuição aprendida, tornando as redes neurais mais aptas a identificar exemplos que nunca viram antes. Os pesquisadores destacam que essa capacidade é importante para aplicações práticas, como veículos autônomos, sistemas de suporte a diagnósticos médicos e ferramentas de IA generativa.

Imagem: Divulgação

O estudo foi conduzido por Jeonghwan Cheon, estudante de mestrado do Departamento de Ciências Cognitivas e do Cérebro do KAIST, sob a coordenação de Se-Bum Paik. A pesquisa recebeu financiamento da Fundação Nacional de Pesquisa da Coreia e do Programa de Pesquisa de Professores Singulares do KAIST.

Os autores concluíram que incorporar princípios básicos do desenvolvimento cerebral na fase inicial de treinamento pode fazer com que modelos de IA reconheçam de forma mais confiável seu próprio grau de conhecimento, reduzindo respostas indevidamente seguras e melhorando a identificação de incerteza.

Com informações de Olhardigital