O que são vieses algorítmicos?

por: Deivid Hadad

28 de abril de 2026

Vieses algorítmicos são erros sistemáticos em sistemas de inteligência artificial que fazem com que esses sistemas tratem determinados grupos de pessoas de forma pior do que outros. A palavra-chave é sistemático: não é um erro aleatório, que ora prejudica um, ora prejudica outro. É um erro que cai sempre do mesmo lado, contra o mesmo grupo, de forma repetida e automatizada.

Esses erros raramente são intencionais. Eles costumam nascer de dados que refletem desigualdades já existentes, de escolhas técnicas que passam despercebidas ou de decisões humanas embutidas no sistema. O problema é a escala: um algoritmo enviesado pode repetir o mesmo erro milhões de vezes por dia, com a aparência de objetividade que os números costumam ter.

Três pontos ajudam a fixar a ideia:

Viés não é sinônimo de má intenção. Ele aparece mesmo em equipes bem-intencionadas e em dados que parecem neutros.
Viés é mensurável. Dá para medir a diferença de desempenho de um sistema entre grupos, e é isso que auditorias sérias fazem.
Viés não se resolve só com tecnologia. Parte do problema é matemática, mas parte é uma escolha de valores sobre o que consideramos justo.

Entender o que são vieses algorítmicos é o primeiro passo para usar a inteligência artificial com senso crítico. Afinal, os riscos da inteligência artificial vão muito além da ficção científica e já aparecem em ferramentas que usamos no dia a dia.

Como os vieses algorítmicos surgem nos sistemas de IA?

Os vieses não aparecem do nada. Eles entram em etapas específicas da construção de um sistema, da coleta dos dados até a forma como o desempenho é medido.

Para entender o mecanismo, ajuda saber que o papel dos algoritmos em soluções de IA é aprender padrões a partir de exemplos. Se os exemplos já trazem distorções, o algoritmo aprende as distorções e passa a repeti-las.

Quais vieses existem nos dados de treinamento?

Dados de treinamento são os exemplos que ensinam o algoritmo a decidir. Se eles forem incompletos, desequilibrados ou fruto de práticas discriminatórias do passado, o sistema aprende exatamente esses padrões.

Existe evidência oficial e em larga escala disso. Em dezembro de 2019, o NIST, o instituto de padrões e tecnologia do governo dos Estados Unidos, publicou o estudo Face Recognition Vendor Test Part 3: Demographic Effects, que avaliou 189 algoritmos de reconhecimento facial de 99 desenvolvedores, usando 18,27 milhões de imagens de 8,49 milhões de pessoas vindas de bases do governo americano.

Segundo o comunicado oficial do NIST, de 19 de dezembro de 2019, na comparação um para um a maioria dos algoritmos apresentou taxas de falsos positivos mais altas para rostos asiáticos e afro-americanos do que para rostos caucasianos, com diferenças que iam de 10 a 100 vezes, dependendo do algoritmo. Um falso positivo, nesse caso, é o sistema afirmar que duas fotos de pessoas diferentes são da mesma pessoa.

O detalhe mais revelador do estudo é outro. Ainda segundo o NIST, os algoritmos desenvolvidos em países asiáticos não apresentaram essa diferença acentuada entre rostos asiáticos e caucasianos. A conclusão registrada pelo instituto é direta: dados de treinamento mais diversos podem produzir resultados mais equitativos. Ou seja, a diferença não estava na tecnologia em si, mas em quem aparecia nos dados.

Vale a precisão: esses números descrevem os algoritmos submetidos ao NIST em 2019 e não a totalidade dos sistemas em uso hoje. Servem para mostrar o mecanismo, não para descrever o estado atual de qualquer produto específico.

Como o design algorítmico introduz vieses?

Mesmo com dados razoavelmente equilibrados, as escolhas de projeto podem introduzir ou amplificar vieses. Definir qual variável o sistema deve otimizar já é uma decisão carregada de consequências.

Se um sistema de triagem é treinado para reproduzir as decisões de recrutadores humanos do passado, ele vai reproduzir também os preconceitos dessas decisões. O algoritmo não sabe distinguir uma escolha legítima de uma injustiça: ele só aprende o padrão.

Equipes homogêneas agravam o problema, porque tendem a não enxergar como certas escolhas técnicas afetam grupos que não estão representados na sala. Isso mostra que o aprendizado de máquina não é um processo neutro.

O que são vieses em dados proxy?

Dados proxy são variáveis usadas como substitutas de informações que não podem ou não devem ser coletadas diretamente. O problema é que esses substitutos costumam carregar correlação com características sensíveis.

O exemplo clássico é o CEP usado como indicador de risco de crédito. Na superfície, é só uma informação de localização. Na prática, em cidades marcadas por segregação territorial, o CEP se aproxima da raça e da renda de quem mora ali. O algoritmo então discrimina de forma indireta, sem nunca ver o campo raça.

O mesmo vale para lacunas no histórico de emprego, que podem funcionar como proxy de gênero, ou para certas credenciais educacionais, que refletem mais o acesso à educação do que a capacidade da pessoa.

Identificar proxies problemáticos exige olhar o contexto social em que os dados foram gerados. É uma análise que não se resolve só com estatística.

Como a etapa de avaliação pode gerar vieses?

A forma de medir o desempenho pode esconder o viés. Se a métrica olha só a precisão geral, erros concentrados em um grupo minoritário desaparecem na média.

Imagine um sistema com 95% de acerto. O número parece ótimo. Mas se os 5% de erro estiverem concentrados em um único grupo, o sistema é sistematicamente injusto com aquelas pessoas, e a métrica geral não mostra isso.

Por isso auditorias sérias medem o desempenho separadamente por grupo, e não apenas no conjunto. Foi exatamente essa a metodologia que revelou os casos mais conhecidos de viés algorítmico.

Quais são os principais tipos de vieses algorítmicos?

Existem muitas listas de tipos de viés circulando, e boa parte delas é inventada caso a caso. Vale usar uma taxonomia oficial.

Em março de 2022, o NIST publicou a Special Publication 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, que organiza o viés em IA em três categorias. Essa é a referência que órgãos e empresas usam quando precisam de um vocabulário comum.

Categoria (NIST SP 1270, 2022)	O que é	Onde aparece
Viés sistêmico	Resulta de procedimentos e práticas de instituições que acabam favorecendo certos grupos sociais e desfavorecendo outros. Não depende de preconceito consciente: basta a maioria seguir as regras e normas existentes.	Nos dados usados pela IA e nas normas e processos das instituições, ao longo de todo o ciclo de vida do sistema.
Viés estatístico e computacional	Vem de erros que surgem quando a amostra não representa a população. É erro sistemático, não aleatório, e ocorre mesmo sem qualquer intenção discriminatória.	Nos conjuntos de dados e nos processos algorítmicos, sobretudo quando o modelo é treinado em um tipo de dado e não consegue generalizar além dele.
Viés humano	Erros sistemáticos do pensamento humano, ligados a atalhos mentais. Costumam ser implícitos e afetam como uma pessoa percebe a informação para decidir.	Nas decisões individuais, de grupo e institucionais em todo o ciclo de vida da IA, e também no uso do sistema depois de implantado.

O documento do NIST faz uma ressalva importante: essas categorias interagem entre si e a lista não é exaustiva. O viés sistêmico e o viés humano costumam ser a origem, e o viés estatístico é onde o problema fica visível e mensurável.

Note também que o NIST trata o viés sistêmico como sinônimo de viés institucional ou histórico. É por isso que o mesmo fenômeno aparece com nomes diferentes em textos distintos.

Quais são exemplos reais e documentados de vieses algorítmicos?

Os casos abaixo não são hipotéticos. Todos têm fonte pública, número e data. Conhecê-los ajuda a entender que a transformação que a inteligência artificial traz ao mundo do trabalho precisa vir acompanhada de responsabilidade.

Classificação de gênero em fotos

O estudo Gender Shades, de Joy Buolamwini e Timnit Gebru, apresentado em 2018 na 1ª Conference on Fairness, Accountability and Transparency, avaliou sistemas comerciais que tentam classificar o gênero de uma pessoa a partir da foto do rosto.

O resultado ficou famoso pela desproporção. Segundo o estudo, o grupo de mulheres de pele mais escura foi o mais classificado incorretamente, com taxa de erro de até 34,7%. Para homens de pele mais clara, a taxa de erro máxima foi de 0,8%.

Uma precisão que muita gente perde: esse estudo mede classificação de gênero, que é adivinhar se a foto é de um homem ou de uma mulher. Não é a mesma coisa que reconhecimento facial, que é identificar quem a pessoa é. São tarefas diferentes, com riscos diferentes, e misturar as duas é um erro comum.

Pontuação de risco no sistema penal

Nos Estados Unidos, sistemas de pontuação de risco foram usados por tribunais para apoiar decisões sobre réus. Em 23 de maio de 2016, a ProPublica publicou a análise Machine Bias, examinando as pontuações de mais de 7 mil pessoas presas no condado de Broward, na Flórida, em 2013 e 2014.

Entre os réus que não voltaram a cometer crimes, 44,9% dos réus negros tinham sido rotulados como de alto risco, contra 23,5% dos réus brancos. Quase o dobro. A ProPublica também relatou que, controlando por outros fatores, réus negros tinham 45% mais chance de serem apontados como de maior risco de cometer algum crime futuro.

Por honestidade intelectual, é preciso registrar os dois lados: a Northpointe, empresa responsável pelo sistema, contestou a análise e afirmou não concordar que os resultados estivessem corretos. Essa controvérsia não é um detalhe, e ela deu origem a uma descoberta matemática importante, explicada mais adiante.

Triagem automatizada em contratações

Nem toda discriminação automatizada é aprendida dos dados. Às vezes ela é simplesmente programada.

Em 11 de setembro de 2023, a EEOC, a comissão de igualdade de oportunidades no emprego dos Estados Unidos, anunciou um acordo de 365 mil dólares com uma empresa de tutoria online. Segundo a EEOC, o software de candidaturas da empresa foi programado para rejeitar automaticamente candidatas com 55 anos ou mais e candidatos com 60 anos ou mais. Mais de 200 pessoas qualificadas foram rejeitadas por causa da idade.

A distinção importa. Nesse caso, o sistema não aprendeu um preconceito a partir de dados enviesados: a regra discriminatória foi escrita por alguém. O caso serve para mostrar duas coisas: a automação multiplica a escala de uma decisão injusta, e decisões automatizadas já produzem consequências legais concretas.

Quais são os riscos e consequências dos vieses algorítmicos?

Vieses algorítmicos não são um problema técnico abstrato. Eles afetam o acesso de pessoas reais a emprego, crédito, saúde e educação.

Como os algoritmos podem gerar discriminação e desigualdade?

Quando um sistema enviesado decide quem recebe uma oportunidade, ele amplifica desigualdades que já existem. Um algoritmo de crédito que penaliza moradores de certos bairros dificulta ainda mais o acesso ao capital para comunidades já excluídas. Uma triagem enviesada perpetua a falta de diversidade em setores já homogêneos.

O ponto crítico é a escala e a velocidade. Uma pessoa preconceituosa afeta um número limitado de decisões por dia. Um sistema automatizado aplica o mesmo critério a milhões de casos, de forma silenciosa e com aparência de neutralidade.

No Brasil, o tema já está no radar do regulador. A ANPD, autoridade nacional de proteção de dados, publicou em junho de 2024 o Radar Tecnológico nº 2, sobre biometria e reconhecimento facial. O estudo registra que vieses e normas culturais e sociais de quem trata os dados biométricos podem se refletir nos algoritmos e nos modelos de aprendizagem, levando a efeitos discriminatórios de ordem racial, social, étnica e econômica.

Quais são os riscos jurídicos do viés algorítmico?

No Brasil, a Lei Geral de Proteção de Dados, Lei nº 13.709, de 14 de agosto de 2018, trata do assunto em dois pontos que vale conhecer.

O primeiro é o artigo 6º, inciso IX, que estabelece o princípio da não discriminação: é vedado o tratamento de dados para fins discriminatórios ilícitos ou abusivos.

O segundo é o artigo 20, e aqui existe um detalhe que quase todo mundo erra. O texto atual diz que o titular tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Acontece que a redação original de 2018 dizia revisão por pessoa natural, e essa expressão foi retirada pela Lei nº 13.853, de 2019. Na prática, o texto em vigor garante o direito de pedir revisão, mas não exige que essa revisão seja feita por um ser humano.

O artigo 20 traz ainda dois parágrafos relevantes. O §1º obriga o controlador a fornecer informações claras sobre os critérios e procedimentos da decisão automatizada, observados os segredos comercial e industrial. O §2º prevê que, se as informações forem negadas com base em segredo comercial, a autoridade nacional pode realizar auditoria para verificar aspectos discriminatórios.

Essa ressalva do segredo comercial é justamente onde mora a dificuldade prática: sem acesso ao funcionamento do sistema, provar discriminação algorítmica é muito difícil para quem foi prejudicado.

Como o viés algorítmico corrói a confiança em sistemas de IA?

Quando alguém percebe que foi tratado de forma injusta por um sistema automatizado, o efeito ultrapassa o caso individual. Se um algoritmo pode discriminar em crédito ou contratação, por que confiar nele em outras áreas?

Essa erosão tem custo prático. Pessoas prejudicadas tendem a rejeitar novas tecnologias, inclusive as que poderiam beneficiá-las. E grupos que já têm motivos históricos para desconfiar de instituições ganham mais um. É por isso que a influência da inteligência artificial na vida das pessoas depende tanto de o sistema ser percebido como justo.

Por que é tão difícil eliminar o viés algorítmico?

Se o problema é conhecido e documentado, por que continua aparecendo? Porque eliminar viés esbarra em um limite técnico real e em um dilema de valores.

Quais são os desafios técnicos para reduzir vieses em IA?

Aqui está a descoberta mais contraintuitiva do tema, e ela nasceu justamente da polêmica sobre a pontuação de risco criminal.

Em 2017, a pesquisadora Alexandra Chouldechova publicou Fair prediction with disparate impact, na revista Big Data. O artigo demonstra que os diferentes critérios matemáticos de justiça não podem ser todos satisfeitos ao mesmo tempo quando a taxa do evento previsto difere entre os grupos.

Isso significa que corrigir o viés em uma dimensão pode piorá-lo em outra, e não por incompetência de quem programa. É uma impossibilidade matemática. Tanto a empresa quanto a ProPublica podiam estar certas ao mesmo tempo, cada uma usando uma definição diferente de justiça.

A consequência é grande: a pergunta “esse algoritmo é justo?” não tem resposta puramente técnica. Alguém precisa escolher qual definição de justiça vale naquele contexto, e essa é uma decisão humana e política.

Há ainda um segundo obstáculo técnico. Sistemas baseados em aprendizado profundo processam informação de formas tão complexas que nem os desenvolvedores explicam com precisão por que uma decisão foi tomada. Sem entender o caminho, fica mais difícil achar onde o viés entrou.

Quais são os desafios éticos e jurídicos envolvidos?

No campo ético, a disputa começa na definição de equidade. Uma empresa pode dizer que seu sistema é justo porque aplica o mesmo critério a todos. Um crítico responde que aplicar o mesmo critério a grupos em situações históricas diferentes é, em si, uma forma de injustiça. Qual visão prevalece é uma questão de valores, não de cálculo.

No campo jurídico, a dificuldade é a responsabilização. Quando um sistema causa dano, quem responde? Quem desenvolveu, quem comprou e usou, ou quem configurou os parâmetros? A cadeia é difusa, o que dificulta tanto a reparação quanto o incentivo para investir em sistemas melhores.

Como combater e prevenir os vieses algorítmicos?

Não existe solução única. O que funciona é a combinação de boas práticas técnicas, governança e regulação.

O que é governança de inteligência artificial?

Governança de IA é o conjunto de políticas, processos e estruturas que uma organização adota para desenvolver e usar IA de forma responsável e transparente.

Na prática, envolve definir quem decide sobre o uso de IA, criar processos de revisão e auditoria, abrir canais para que pessoas afetadas contestem decisões automatizadas e garantir diversidade nas equipes que constroem e avaliam os sistemas.

Como a regulação da IA pode reduzir vieses algorítmicos?

A regulação cria incentivos que vão além da boa vontade. Quando há obrigação legal de transparência e auditoria, investir em correção de viés deixa de ser opcional.

A União Europeia avançou nessa direção com o AI Act, que classifica sistemas de IA por nível de risco. Segundo a página oficial da Comissão Europeia sobre o marco regulatório de IA, softwares de triagem de currículos e sistemas de pontuação de crédito que negam empréstimos estão entre os exemplos classificados como de alto risco.

O calendário mudou recentemente, e muita informação que circula por aí está desatualizada. O AI Act entrou em vigor em 1º de agosto de 2024, mas as obrigações para sistemas de alto risco foram adiadas por um pacote de simplificação aprovado em 2026. Este é o cronograma oficial vigente:

Etapa do AI Act	Data de aplicação
Entrada em vigor do regulamento	1º de agosto de 2024
Práticas proibidas e exigências de letramento em IA	2 de fevereiro de 2025
Regras de governança e modelos de IA de uso geral	2 de agosto de 2025
Sistemas de alto risco autônomos (Anexo III), como triagem de currículos e crédito	2 de dezembro de 2027
Sistemas de alto risco embarcados em produtos regulados (Anexo I)	2 de agosto de 2028

O adiamento não é boato. Segundo o acompanhamento legislativo oficial do Parlamento Europeu, o plenário aprovou o pacote de simplificação em 16 de junho de 2026, por 423 votos a favor, 57 contra e 174 abstenções, fixando 2 de dezembro de 2027 para os sistemas de alto risco autônomos e 2 de agosto de 2028 para os embarcados em produtos. O Conselho da União Europeia deu o aval final em 29 de junho de 2026.

No Brasil, a regulação ainda está em construção. O PL 2338/2023, que estabeleceria um marco legal para a IA, foi aprovado pelo Plenário do Senado em 10 de dezembro de 2024 e enviado à Câmara dos Deputados. Até julho de 2026, ele seguia em análise na comissão especial da Câmara, aguardando o parecer do relator. Ou seja, enquanto o texto não é aprovado, quem foi prejudicado por uma decisão automatizada no Brasil se apoia principalmente na LGPD.

Quais boas práticas ajudam a construir algoritmos mais justos?

No nível técnico e organizacional, algumas práticas fazem diferença concreta:

Medir o desempenho separado por grupo: nunca olhar só a acurácia geral. É o passo que revela erros concentrados em minorias, e foi assim que os casos mais conhecidos vieram à tona.
Escolher explicitamente a definição de justiça: como os critérios são matematicamente incompatíveis entre si, decidir qual deles vale naquele contexto, e registrar essa decisão, é obrigatório.
Documentar os dados: registrar de onde vieram, como foram coletados e quais grupos podem estar sub-representados.
Diversidade nas equipes: reunir pessoas de diferentes origens e perspectivas ajuda a enxergar pontos cegos.
Auditorias regulares: testar o sistema periodicamente, e não só no lançamento.
Transparência sobre limitações: comunicar com clareza os limites e riscos do sistema a quem usa e a quem é afetado.
Canais de contestação: permitir que a pessoa prejudicada questione a decisão e receba explicação, conforme prevê o artigo 20 da LGPD.

Essas práticas não eliminam o viés por completo, mas reduzem danos e criam uma cultura de responsabilidade. Para quem quer entender a importância da inteligência artificial nos dias de hoje, compreender o viés algorítmico é parte essencial dessa alfabetização tecnológica.

Perguntas frequentes sobre vieses algorítmicos

Viés algorítmico é a mesma coisa que erro de algoritmo?

Não. Erro comum é aleatório e se distribui de forma parecida entre as pessoas. Viés é erro sistemático: ele se concentra sempre no mesmo grupo. Um sistema pode ter pouquíssimos erros no total e ainda assim ser enviesado, se esses poucos erros atingirem quase sempre as mesmas pessoas.

É possível criar um algoritmo totalmente sem viés?

Não, ao menos não no sentido de satisfazer todas as definições de justiça ao mesmo tempo. O artigo de Chouldechova, de 2017, demonstrou que os critérios são mutuamente incompatíveis quando a taxa do evento previsto difere entre grupos. O objetivo realista é medir, escolher de forma explícita qual critério de justiça se aplica, reduzir o dano e prestar contas.

Tirar raça e gênero dos dados resolve o problema?

Não. Essa é a solução intuitiva que mais falha. Como outras variáveis funcionam como proxy dessas características, o modelo reconstrói a informação indiretamente. Remover o campo apenas torna a discriminação mais difícil de detectar, porque some a variável que permitiria medir a diferença entre grupos.

O que a lei brasileira garante hoje contra decisões automatizadas?

A LGPD garante o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado e de receber informações claras sobre os critérios usados, respeitados os segredos comercial e industrial. A redação em vigor, porém, não exige que essa revisão seja feita por uma pessoa, já que a expressão “por pessoa natural” foi retirada do artigo 20 pela Lei nº 13.853, de 2019.