LeiLu · 22/11/2026 13:00

A IA que você usa todos os dias pode reproduzir ideias racistas e é preciso atenção

A IA que você usa todos os dias pode reproduzir ideias racistas e é preciso atenção

U ma resposta preconceituosa, uma imagem que reforça estereótipos ou um rosto que não é reconhecido corretamente. Essas situações não são meras falhas das ferramentas de inteligência artificial generativa, não. E, se você, leitor e leitora de CAPRICHO, acha que a sua ferramenta preferida é neutra, então, infelizmente, precisamos te avisar: ela não é.

As ideias preconceituosas chegam ao algoritmo, aprovadas por quem o constrói, e se misturam com a informação muito mais do que podemos imaginar. “As ferramentas de IA criam um padrão de rosto e de corpo, e quem foge dele vira erro ou ruído. Na minha pesquisa, os detectores falham mais em rostos negros. Não é acaso: é efeito desse padrão”, afirma à CAPRICHO a cientista da computação, Nina da Hora, que é referência em pesquisa sobre as relações entre tecnologia, raça e desigualdades sociais.

E não, não estamos falando de um erro isolado ou de uma única ferramenta que reproduziu uma ideia preconceituosa. O problema é muito mais profundo. Segundo a especialista, ao identificar rostos ou escrever textos, a IA também reproduz padrões e visões de mundo que já foram construídas.

E, quando esses dados carregam desigualdades históricas, a tecnologia, tende a reforçar uma série de preconceitos, inclusive, o racismo. Continua após a publicidade A IA reproduz ideias preconceituosas e não é um defeito pontual, o racismo entra em toda a cadeia do sistema. A cientista explica que essa série de erros e de respostas preconceituosas acontece por que, por trás da tecnologia, existem pessoas que decidem a raça, o gênero ou a “normalidade” de um rosto.

Vale lembrar, inclusive, que nesse processo a autodeclaração é ignorada e que, portanto, a identificação e reprodução de rostos é determinada apenas por quem programa essas ferramentas. Mas de onde vêm essas informações, hein? Nina detalha que o processamento de dados está diretamente relacionado à maneira como imagens e textos foram produzidos, organizados e registrados ao longo da história.

Isso significa que a IA não aprende a partir de uma realidade neutra, ela utiliza materiais que já carregam escolhas, ausências e desigualdades. “Os bancos de imagem e texto registram quem foi fotografado, catalogado e descrito ao longo da história, e de que jeito. Se pessoas negras aparecem pouco, ou só em certos papéis, o modelo aprende esse recorte como se fosse a realidade”, explica. Continua após a publicidade ‘Epsitemicídio computacional’.

O que é e como entra nessa história? Um conceito i

Continue lendo

4 modelos diferentões do sapato anabela para você revisitar a tendência polêmica LeiLu · 22/11/2026 4 modelos diferentões do sapato anabela para você revisitar a tendência polêmica C om solado contínuo em plataforma, o sapato anabela é um calçado controverso que já teve versões de sucesso ao longo dos anos e, depois de um período... Luis Ribeirinho se despede dos dias de descanso com Luísa Sonza: 'Terminaram as férias' LeiLu · 22/11/2026 Luis Ribeirinho se despede dos dias de descanso com Luísa Sonza: 'Terminaram as férias' Luis Ribeirinho usou as redes sociais neste domingo (22) para se despedir das férias ao lado da noiva, Luísa Sonza. O casal atualizou o status de rela... Por que aplaudir durante o pouso de um avião pode irritar as pessoas, segundo especialistas LeiLu · 22/11/2026 Por que aplaudir durante o pouso de um avião pode irritar as pessoas, segundo especialistas Passageiro aplaudindo aterrissagem em voo Getty Images Nos meus 20 anos trabalhando como jornalista especializada em viagens, já fui julgada por muita...

Você também vai gostar

Ver todas →