Transmissão: Band

O economista Joseph Stiglitz, prêmio Nobel, advertiu que sistemas de inteligência artificial podem comprometer a qualidade da informação global ao basearem-se cada vez mais em dados de baixa qualidade. Em entrevista à Fortune, Stiglitz afirmou que, à medida que grandes modelos de linguagem vasculham redes e fóruns — de comentários no Reddit a vozes extremistas em comunidades online —, corre-se o risco de que “lixo entra, lixo sai” determine o conteúdo produzido por essas plataformas.

Quem e o que

Stiglitz disse que a IA não só remodela o mercado de trabalho como introduz externalidades negativas no ecossistema informacional: modelos treinados em grande volume acabam reproduzindo insumos pouco confiáveis, criando um ciclo de retroalimentação entre informações distorcidas e decisões baseadas nelas. Segundo ele, isso afeta desde mercados de previsão e modelos financeiros até o debate público.

Como isso ocorre

O Nobel apontou que os modelos coletam vorazmente jornalismo, pesquisas e conversas online, porém fragilizam as instituições que geram conteúdo de alta qualidade. Como consequência, formas mais baratas de conteúdo — seções de comentários, memes, textos de baixo esforço — se tornam mais abundantes nos dados de treinamento, inclinando os resultados dos chatbots para aquilo que é mais frequente e barato.

Exemplos e riscos

Stiglitz citou casos em que relatórios ou textos virais, mesmo com pouca base factual, conseguem influenciar mercados e opiniões públicas — mencionando exemplos como um relatório da Citrini Research sobre um “PIB fantasma” e o ensaio viral sobre IA de Matt Shumer. Ele também destacou o exemplo das comunidades antivacina, onde militantes muito ativos geram volume de conteúdo superior aos poucos artigos científicos rigorosos, o que pode levar modelos a privilegiar vozes ruidosas.

Incentivos e regulação

Referindo-se ao seu trabalho teórico com Sanford Grossman e a extensão feita com o ex-aluno Max Ventura, Stiglitz afirmou que, quando empresas de IA não pagam pelo conteúdo que extraem de produtores de mídia, enfraquecem os incentivos para a produção de jornalismo e pesquisa de qualidade. Esse descompasso, segundo ele, amplia a quantidade de “lixo” disponível para treinar modelos.

Imagem: Divulgação

Uso da IA e medidas sugeridas

Apesar das críticas, Stiglitz não propõe banir a tecnologia. Ele defende o uso da IA como ferramenta de pesquisa — capaz de ajudar a localizar fontes e formular ideias —, mas ressalta que não substitui o trabalho analítico. Ao mesmo tempo, pede intervenção governamental para evitar a deterioração do ecossistema informacional.

Para Stiglitz, sem regulação há risco significativo de um ambiente informacional pior em várias áreas críticas.

Com informações de Infomoney