Algoritmos já são empregados em várias áreas do dia a dia, como seleção de candidatos, recomendação de conteúdos nas redes sociais, análises de crédito e reconhecimento facial. Embora prometam agilidade e objetividade, especialistas alertam que esses sistemas não são neutros e podem reproduzir preconceitos existentes na sociedade.
Como funcionam e por que geram problemas
O funcionamento desses sistemas depende de dados e de decisões humanas sobre quais informações usar, como ponderá-las e quais metas perseguir. Para Lucas Reis, professor-doutor em Comunicação e pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD), a neutralidade não existe na sociedade e, por isso, contamina também as escolhas feitas durante o desenvolvimento de algoritmos.
Em modelos de inteligência artificial generativa, explica o professor Marcelo Finger, da Universidade de São Paulo (USP), a primeira etapa é identificar padrões em grandes volumes de dados. Depois vem uma fase de alinhamento, adotada por empresas, para orientar o comportamento da IA e reduzir respostas indesejadas. Finger observa que, como os dados carregam preconceitos sociais, o modelo captura esses padrões na fase inicial e tenta ser “desentortado” na etapa de ajuste.
Violência algorítmica: conceito e limitações do termo “viés”
Pesquisadoras como Bruna Irineu e Larissa Pelúcio, autoras do livro Violência algorítmica e vidas LGBTQIAPN+: ensaios sobre tecnologia, poder e resistência na era digital, defendem que chamar o problema apenas de “viés algorítmico” reduz a questão a uma falha técnica. Para elas, o conceito de violência algorítmica amplia o foco para efeitos sociais e estruturas de poder que antecedem a tecnologia.
As autoras argumentam que a tecnologia não inventou racismo ou LGBTfobia, mas que arquiteturas algorítmicas podem intensificar essas formas de violência, promovendo apagamentos, restringindo direitos e reforçando discursos de ódio. Elas também destacam que algoritmos operam dentro de plataformas e modelos de negócio que determinam quais conteúdos ficam visíveis e quais vozes são marginalizadas.
Exemplos e impactos no cotidiano
Casos práticos ilustram os riscos: em 2018, a Amazon abandonou um sistema de seleção de candidatos após constatar que ele favorecia homens, porque foi treinado com dados históricos da própria empresa. Estudos sobre reconhecimento facial apontaram taxas de erro maiores na identificação de pessoas negras comparadas a pessoas brancas, resultado que motivou questionamentos sobre seu uso em segurança pública no Brasil.
Imagem: Divulgação
Especialistas destacam que o maior perigo acontece quando processos discriminatórios são automatizados em larga escala. Um algoritmo pode replicar padrões preconceituosos milhares ou milhões de vezes, afetando decisões sobre emprego, crédito, vigilância e visibilidade online.
Desenvolvimento tecnológico e soberania
A discussão também envolve quem cria esses modelos. A maioria das tecnologias de IA é desenvolvida por empresas nos Estados Unidos e na China, concentração que, segundo Reis, influencia a distribuição de poder e os rumos da inovação. Bruna Irineu defende que reduzir dependência tecnológica requer investimentos em pesquisa, formação de profissionais, infraestrutura e desenvolvimento de tecnologias próprias, além de ampliar diversidade entre quem projeta algoritmos para incorporar perspectivas historicamente marginalizadas.
Especialistas ouvidos alertam que enfrentar a violência algorítmica exige considerar tanto escolhas técnicas quanto contextos sociais e políticas públicas que promovam maior transparência, diversidade e soberania digital.
Com informações de Olhardigital
Gudyê GR6 é editor-chefe e especialista em tendências musicais e entretenimento na GR6, a maior produtora de funk do Brasil. Com anos de experiência no mercado fonográfico, Gudyê lidera a equipe de conteúdo trazendo as últimas notícias sobre música, cultura urbana. Autor do Post: Gudyê GR6
