UFRGS
27/08/2026
As tecnologias com Inteligência Artificial (IA) têm evoluído e se popularizado rapidamente. De acordo com pesquisa da OpenAI, o Brasil era o terceiro país que mais usava o ChatGPT em 2025. Já uma pesquisa da Cisco com a Organização para a Cooperação e Desenvolvimento Econômico (OCDE) concluiu que o Brasil é o segundo país do mundo que mais utiliza Inteligência Artificial Generativa.
O uso frequente das tecnologias baseadas em IA veio acompanhado de alguns problemas, sendo um deles a reprodução de preconceitos. Entre os exemplos estão o sistema Compas, que foi utilizado nos Estados Unidos para atribuir o nível de periculosidade e a probabilidade de pessoas cometerem crimes novamente e que atribuía notas mais altas para minorias étnicas, e a ferramenta de revisão de currículos da Amazon, que privilegiava a escolha de candidatos homens.
Sistemas de reconhecimento facial também cometeram erros: em abril de 2024, um jovem negro foi detido na final de um campeonato de futebol, em dezembro do mesmo ano um idoso foi retido após um sistema o confundir com um estuprador procurado. Já em julho de 2025 uma jovem negra teve seu cabelo apagado pelo sistema de identificação facial vinculado à emissão de nova carteira de identidade.
Os exemplos ocorreram ao longo de quase dez anos e em países diferentes. Apesar da evolução da tecnologia, os vieses existentes na sociedade seguem refletidos nos modelos algorítmicos. Para o professor de Filosofia na UFRGS Eros de Carvalho, essas tecnologias intensificam os preconceitos já existentes.
O que é Inteligência Artificial e onde estão os vieses
A Unesco, no documento de Recomendação sobre a Ética da Inteligência Artificial, define os sistemas de IA como “tecnologias de processamento de informações que integram modelos e algoritmos que produzem a capacidade de aprender e realizar tarefas cognitivas, as quais levam a resultados como a previsão e a tomada de decisões em ambientes reais e virtuais”. De acordo com Edson Prestes, professor no Instituto de Informática da UFRGS, Inteligência Artificial é uma área na qual existem diversas técnicas e métodos para resolver certos sistemas computacionais.
Muitos desses modelos são treinados a partir de bases de dados, e o tipo de dado depende do objetivo do sistema. Ferramentas de reconhecimento facial, por exemplo, são treinadas com imagens, já as que avaliam candidatos para vagas podem ser treinadas com currículos de determinada empresa. Para que um sistema de Inteligência Artificial faça algo ou tome uma decisão, ele depende de duas coisas: as instruções e regras estabelecidas no desenvolvimento da aplicação e, quando é um sistema que “aprende”, os dados inseridos para treiná-lo.
O preconceito pode estar diretamente nas regras estabelecidas no sistema. O professor Edson explica que se um sistema recebe currículos para análise e ranqueamento, e existe uma regra de que pessoas acima dos 40 anos fiquem em uma posição mais baixa no ranking, então o preconceito está no código.
“Eu posso ter o preconceito no design ou eu posso ter o preconceito nos dados”Edson Prestes
A respeito dos dados, o docente chama a atenção para o fato de os sistemas incorporarem tudo sem distinção. “Eles não conseguem fazer uma avaliação se esses dados são corretos ou não, se são preconceituosos ou não”, complementa. É por isso que, dependendo da base de dados usada, um sistema pode ter respostas preconceituosas. Por exemplo, um dos motivos para sistemas de reconhecimento facial terem mais dificuldade em distinguir e identificar pessoas negras pode ser porque as bases de dados contêm mais imagens de pessoas brancas.
Há uma dificuldade em relação às bases de dados utilizadas, porque é preciso uma grande quantidade de informações para o treinamento. Gabriel Kolber, que trabalha com desenvolvimento de sistemas de Inteligência Artificial há sete anos, observa que a maioria das bases são ruins, mal organizadas ou, dependendo de quem a está mantendo, enviesadas. Ele trabalhou principalmente com bases de dados internas de empresas e percebeu que os dados foram armazenados sem uma estruturação correta, pois não se imaginava a importância que teriam. “Esses dados foram crescendo e eles não foram bem organizados”, observa.
A falta de transparência
A necessidade de grandes volumes de dados para treinar esses sistemas dificulta a identificação do que está fazendo ele reproduzir um preconceito. Edson explica que é possível realizar alguns testes para verificar se há enviesamento e, a partir disso, eliminar parte ou classes de dados durante o desenvolvimento de um sistema. Essas técnicas, entretanto, não são totalmente infalíveis, pois verificam apenas uma parte dos dados. Além disso, os modelos de IA utilizam técnicas muito complexas. De acordo com Edson, “são tão complexas que as pessoas que desenvolvem não entendem exatamente por que o sistema chegou a determinada decisão”.
Na situação de modelos mais populares de IAs generativas, como ChatGPT e Gemini, existe pouca informação sobre as bases de dados utilizadas. O que se sabe é que, no geral, foram extraídos grandes volumes de dados públicos da internet, o que torna ainda mais difícil eliminar de onde vem o preconceito.
O professor de História na UFRGS Walter Lippold estuda o colonialismo digital, conceito que trata sobre o monopólio de infraestrutura, produção e distribuição de ferramentas tecnológicas. A partir do controle da infraestrutura, reflexos do colonialismo, como a exploração de terras para extração de minérios e o racismo, aparecem com novas configurações. Um dos autores-base do pesquisador é Frantz Fanon, que dizia que quanto mais a tecnologia se desenvolve, mais o racismo se torna sofisticado.
Eros, professor de Filosofia na UFRGS, observa que muitos dos preconceitos existentes e refletidos nas IAs não são explícitos, dificultando a tentativa de eliminá-los. Uma das preocupações do professor é o tipo de dado usado para treinar as IAs, pois quando se privilegia informação de determinada região, o conhecimento de outras comunidades é deixado de lado. Walter compartilha dessa visão e afirma que a própria linguagem é uma forma de colonialismo, já que muitas das IAs tipo chatbots são treinadas em inglês e não vão compreender integralmente o que está sendo escrito em outra língua.
Para os dois professores, o fato de grandes empresas pegarem dados públicos e usarem de forma privada nas aplicações é preocupante. Assim como a falta de esclarecimento sobre de onde vieram, quais os dados e como eles são usados.
O que pode ser feito
Edson afirma que praticamente nenhum desenvolvedor quer que seus sistemas reproduzam discriminações. Para tentar mitigar essas situações, ele atua no mapeamento das respostas de sistemas de IA, tentando entender o que fez com que o sistema dê determinada resposta. Já Gabriel observa que está começando a ser dada atenção à importância dos dados e acredita que, com o tempo, eles passarão a ser mais bem organizados.
Outro problema é a falta de regulamentação em relação aos sistemas de Inteligência Artificial. Isso dificulta a responsabilização das empresas em casos graves. No momento, existem algumas recomendações éticas e debates de possíveis caminhos de leis no Brasil. Uma das indicações dos especialistas é nunca confiar totalmente nas informações dadas por chatbos. Eles também reforçam a necessidade de que as habilidades de pensar e exercer a criatividade não sejam passadas para essas ferramentas.
Outra dica é utilizar sistemas alternativos aos das big techs. Walter indica que já existem iniciativas fora das grandes corporações, como redes sociais que fazem parte do fediverso e IAs brasileiras como a Maritaca, que apresentam códigos abertos e desenvolvimento colaborativo.
Walter e Eros defendem que um possível caminho futuro para a melhora desses sistemas é a participação social. Eles acreditam que uma maior diversidade de pessoas contribuindo no desenvolvimento desses modelos poderiam identificar melhor os problemas. Além disso, a transparência é um aspecto-chave para entender e lidar com esses sistemas. Ambos também defendem a necessidade de investimento e produção de tecnologias brasileiras em conformidade com a realidade local, garantindo a participação das universidades, que podem alimentá-las com conhecimento científico qualificado. [1], [2]
[1] Texto de Rafaela Bobsin
[2] Publicação original: https://www.ufrgs.br/jornal/preconceitos-sociais-sao-refletidos-em-sistemas-de-inteligencia-artifical/
Como citar esta notícia: UFRGS. Preconceitos sociais são refletidos em recursos de Inteligência Artificia. Texto de Rafaela Bobsin. Saense. https://saense.com.br/2026/08/preconceitos-sociais-sao-refletidos-em-recursos-de-inteligencia-artificia/. Publicado em 27 de agosto (2026).
