IA e viés no recrutamento estudantil: riscos e salvaguardas para IES brasileiras

Aviso legal: este artigo é publicado apenas para fins informativos e não constitui assessoria jurídica. Consulte um Encarregado de Dados ou advogado especializado para implementação concreta.

Sistemas de IA em processos seletivos: alto risco regulatório pela LGPD e o horizonte do PL 2338/2023

O Brasil ainda não possui uma lei específica de inteligência artificial equivalente ao AI Act europeu. No entanto, o cenário regulatório está em acelerada transformação. O Projeto de Lei 2338/2023 (Marco Legal da IA), atualmente em tramitação no Congresso Nacional, prevê explicitamente a classificação como "alto risco" de sistemas de IA que influenciam o acesso a serviços educacionais — o que seria diretamente aplicável a algoritmos de triagem e admissão estudantil. As Instituições de Ensino Superior (IES) que aguardam a aprovação do PL para iniciar sua adequação estão apostando em uma janela de tempo que pode se fechar mais rapidamente do que antecipado.

Mas a inexistência de uma lei de IA específica não significa ausência de obrigações hoje. A Lei Geral de Proteção de Dados Pessoais (LGPD, Lei 13.709/2018) já impõe restrições ao tratamento automatizado de dados pessoais com efeitos jurídicos relevantes. O art. 20 da LGPD garante ao titular o direito de solicitar revisão de decisões tomadas exclusivamente com base em tratamento automatizado — o que é precisamente o caso dos sistemas de scoring de admissão, de análise curricular automatizada e de recomendação de cursos.

A ANPD (Autoridade Nacional de Proteção de Dados) é a autoridade reguladora competente para fiscalizar o cumprimento da LGPD, incluindo o uso de IA em processos de admissão estudantil. A ANPD tem publicado orientações específicas sobre IA e proteção de dados, sinalizando que o tema está entre suas prioridades regulatórias para os próximos anos.

O quadro normativo mais amplo também é relevante. A Lei de Diretrizes e Bases da Educação Nacional (LDB, Lei 9.394/1996) e o Estatuto da Criança e do Adolescente (ECA) estabelecem princípios constitucionais de equidade no acesso à educação — incompatíveis com sistemas de seleção que produzem discriminação indireta não documentada, independentemente da intenção dos operadores. Processos seletivos que utilizam o ENEM via SISU, vestibular institucional próprio, análise de histórico escolar por IA ou scoring de candidatos constituem, sem exceção, tratamento automatizado de dados pessoais com impacto significativo na vida do candidato.

Por que o viés é estatisticamente inevitável nos sistemas de admissão

Todo modelo de IA aprende com os dados históricos sobre os quais é treinado. No contexto da admissão estudantil brasileira, esses dados codificam décadas de desigualdades estruturais do sistema educacional: a brecha de desempenho entre escolas públicas e privadas, entre candidatos das capitais e dos municípios do interior, entre estudantes com acesso a cursinhos preparatórios caros e aqueles que nunca tiveram esse suporte. Um modelo treinado com dados históricos de admissão de uma IES com perfil elitizado vai, quase inevitavelmente, reproduzir o viés de seleção embutido nesses dados.

A ANPD destacou em suas "Diretrizes sobre Proteção de Dados e Privacidade em Inteligência Artificial" que a ausência de viés aparente não significa ausência de discriminação indireta. Variáveis em princípio neutras — como o CEP do candidato, o nome da escola de origem, a nota do ENEM por estado ou até o turno em que o candidato cursou o ensino médio — correlacionam-se fortemente com raça, renda familiar e nível educacional dos pais no contexto brasileiro. Um modelo que nunca acessa explicitamente essas variáveis protegidas pode ainda assim reproduzir suas desigualdades associadas, via proxies não controlados.

O NIST AI Risk Management Framework fornece a taxonomia mais consolidada das fontes de viés algorítmico, identificando seis categorias que se manifestam com acuidade particular em sistemas de admissão: viés histórico, viés de seleção, viés de medição, viés de agregação, viés de implantação e viés de retroalimentação. Essas seis fontes são detalhadas na seção seguinte.

No contexto brasileiro, o ENEM é a principal porta de entrada para o ensino superior via SISU. Mas nem todas as IES o utilizam: muitas aplicam vestibulares próprios, analisam currículos com IA ou constroem modelos de scoring proprietários, introduzindo vieses não documentados e sem revisão externa. Uma classificação automática de 12.000 conversas Skolbot (2025) revelou que 72% das consultas eram perguntas simples de FAQ, 21% eram de nível intermediário contextual, e 7% eram consultas complexas. Esses 7% concentram exatamente os perfis mais vulneráveis ao viés algorítmico: candidatos de primeira geração universitária, egressos de escolas públicas sub-representados nos dados de treinamento, candidatos de regiões menos cobertas pelos modelos, e candidatos com trajetórias educacionais atípicas.

Matriz de Risco de Viés Skolbot: 6 fontes no processo seletivo brasileiro

O framework abaixo cruza cada fonte de viés com quatro dimensões operacionais: probabilidade de ocorrência, severidade do impacto, exposição regulatória (LGPD/LDB) e dificuldade de detecção. Está fundamentado nas categorias do NIST AI RMF, adaptado ao contexto regulatório brasileiro e ao ecossistema específico das IES públicas e privadas.

O viés de medição é particularmente crítico no Brasil. O CEP de residência do candidato é uma variável com alta correlação com raça e renda no contexto brasileiro, especialmente em grandes metrópoles com alta segregação socioespacial. O nome da escola de origem funciona como proxy imediato do nível socioeconômico familiar. Nenhuma dessas variáveis é tecnicamente "dado sensível" nos termos do art. 5, II da LGPD — mas ambas carregam informação implícita sobre categorias protegidas que não deveria influenciar a decisão de admissão sem controle deliberado.

O viés de retroalimentação é o mais insidioso a longo prazo: quando um modelo de admissão influencia quem é aceito, e os dados de desempenho dos aceitos alimentam o próximo ciclo de treinamento, o viés se auto-reforça de forma progressiva. IES que operam sistemas de scoring há mais de dois ciclos sem auditoria de viés estão particularmente expostas a esse mecanismo.

Dois casos documentados que ilustram os riscos

Caso 1: Amazon (2018)

A Amazon desenvolveu uma ferramenta interna de triagem de currículos que penalizava candidaturas femininas detectando proxies lexicais — como o nome de clubes ou atividades tipicamente associados a mulheres, ou o próprio termo "mulheres" em intitulados de diplômes ou organizações. O modelo havia sido treinado com dez anos de histórico de contratações em um setor com maioria masculina, e o viés histórico do conjunto de dados se reproduziu diretamente nas recomendações. A ferramenta foi desativada após descoberta interna. O caso é citado pela ANPD em suas diretrizes de IA como exemplo paradigmático de como viés histórico e proxies lexicais produzem discriminação indireta em larga escala.

Caso 2: Sistema de scoring automatizado em universidade privada brasileira (2023)

Uma auditoria interna conduzida em uma IES privada de médio porte revelou que o modelo de scoring de candidatos penalizava sistematicamente egressos de escolas públicas do Nordeste, favorecendo candidatos de escolas privadas do Sudeste. O mecanismo de viés operava através do nome da escola de origem como proxy do nível socioeconômico — um exemplo direto de viés de medição combinado com viés de implantação (o modelo havia sido majoritariamente calibrado com dados de candidatos de regiões com maior concentração de escolas privadas de alto desempenho). A instituição desativou o modelo após o achado interno, sem litígio público, e implementou um processo de revisão humana obrigatória para candidatos de regiões sub-representadas nos dados de treinamento.

O denominador comum entre os dois casos é inequívoco: nenhum mediu métricas de equidade por subgrupo antes da implantação. Em ambos os casos, os vieses eram detectáveis a priori com ferramentas estatísticas padrão disponíveis publicamente.

Framework de mitigação em 4 etapas

O framework abaixo é estruturado para integração em um ciclo de desenvolvimento de produto padrão. Cada etapa produz um artefato documentário que pode ser apresentado à ANPD em caso de fiscalização, à direção acadêmica em processos de governança interna, ou ao titular de dados que exerce seu direito de revisão humana nos termos do art. 20 da LGPD.

Dois pontos jurídicos críticos merecem destaque:

Primeiro, o art. 20 da LGPD garante ao titular o direito de solicitar revisão humana de qualquer decisão tomada exclusivamente com base em tratamento automatizado que produza efeitos jurídicos ou significativos. Isso torna a etapa 3 do framework juridicamente exigível na demanda para qualquer IES que utilize um sistema automatizado em seu processo seletivo — não se trata de uma recomendação de boas práticas, mas de uma obrigação legal vigente.

Segundo, o PL 2338/2023, se aprovado na forma atual, imporá um Relatório de Impacto Algorítmico (RIA) para sistemas de alto risco em admissão educacional — análogo ao DPIA do RGPD europeu, mas com foco específico nos riscos algorítmicos. As IES que já documentam suas práticas de auditoria de viés estarão em posição muito mais favorável para cumprir essa obrigação futura. A norma internacional ISO/IEC 42001:2023 oferece um framework de sistema de gestão de IA que pode acelerar significativamente essa preparação.

Checklist do Encarregado de Dados: 10 pontos antes da produção

Esta checklist é direcionada ao Encarregado de Dados (DPO) ou à área de conformidade da IES. Não substitui o RIPD (Relatório de Impacto à Proteção de Dados Pessoais), recomendado pelo art. 38 da LGPD para tratamentos de alto risco — mas funciona como filtro operacional obrigatório antes de qualquer implantação de sistema de admissão com IA.

1. Escopo regulatório documentado: a LGPD aplica-se ao tratamento (art. 3)? A hipótese legal de tratamento está identificada e registrada (art. 7)? Se dados sensíveis estão envolvidos, a hipótese do art. 11 está documentada?
2. Aviso de privacidade atualizado: o aviso menciona o uso de sistemas automatizados na seleção? O candidato é informado no momento da coleta de dados, antes de submeter sua candidatura (art. 9 LGPD)?
3. Ficha de dados produzida: origem do conjunto de dados, período coberto, subgrupos representados (escola pública/privada, região, faixa de renda estimada), proxies conhecidos identificados e documentados.
4. Dados sensíveis tratados: raça/cor, deficiência, origem étnica — o tratamento é realizado apenas com consentimento específico ou com fundamento nas hipóteses do art. 11 LGPD; a base legal está documentada.
5. Métricas de equidade medidas antes da implantação por subgrupo protegido; threshold de impacto díspar documentado (ratio > 0,8 como referência mínima); resultado registrado na ficha de dados.
6. Supervisão humana efetiva: procedimento escrito de revisão humana implementado; direito de revisão humana operacionalizável pelo candidato (art. 20 LGPD); sem aprovação automática em lote para candidatos em zona de incerteza do modelo.
7. Registros mantidos: o art. 37 da LGPD exige o registro das atividades de tratamento; o RIPD é recomendado para tratamentos de alto risco e pode ser exigido pela ANPD como condição de regularidade.
8. Comunicação ao candidato: o candidato sabe que IA é usada no processo seletivo; sabe como exercer o direito de solicitar revisão humana da decisão automatizada (art. 20 LGPD); sabe o prazo de resposta da IES.
9. Monitoramento de deriva: mínimo mensal em produção; métricas comparadas à linha de base estabelecida no momento da implantação; alertas definidos para desvio significativo; registro de incidentes mantido; notificação à ANPD em até 72h em caso de violação de dados pessoais (art. 48 LGPD).
10. Plano de retirada documentado: se viés grave for detectado em produção — quem toma a decisão de suspensão, em que prazo máximo, quem é notificado (ANPD, candidatos afetados, diretoria acadêmica, MEC se IES regulada federalmente).

Para aprofundar os aspectos complementares de conformidade digital no ensino superior brasileiro, consulte também:

• Guia LGPD e dados estudantis para IES
• Chatbot de IA no recrutamento estudantil: guia prático
• Regulamentação de IA no ensino superior: o que muda
• Proteger dados de candidatos: obrigações e boas práticas

Perguntas frequentes

Um chatbot de admissões que filtra candidatos está sujeito ao art. 20 da LGPD?

Sim, se o chatbot coleta dados pessoais e os utiliza para influenciar a decisão de admissão de forma automatizada. O art. 20 da LGPD garante ao titular o direito de solicitar revisão humana de qualquer decisão tomada exclusivamente com base em tratamento automatizado que produza efeitos jurídicos ou significativos — o que é inequivocamente o caso em processos de seleção estudantil. A IES deve garantir que o candidato conheça esse direito e disponha de um canal efetivo para exercê-lo antes de qualquer decisão definitiva.

O RIPD (Relatório de Impacto à Proteção de Dados) é obrigatório antes de implantar um algoritmo de admissão?

O RIPD é fortemente recomendado pela ANPD para tratamentos de alto risco que possam gerar danos significativos aos titulares. Para sistemas de admissão em larga escala — especialmente aqueles que processam centenas ou milhares de candidatos — a ANPD pode exigir o RIPD como condição de regularidade no âmbito de uma fiscalização. O PL 2338/2023, se aprovado, tornará o Relatório de Impacto Algorítmico obrigatório para sistemas de alto risco em admissão educacional, com exigências mais específicas do que o RIPD atual da LGPD.

Podemos usar o CEP ou o nome da escola de origem como variáveis do modelo?

Nenhum é dado sensível nos termos do art. 5, II da LGPD, mas ambos funcionam como proxies de raça e renda no contexto brasileiro com alta correlação documentada. O uso de qualquer variável proxy deve ser justificado por uma finalidade legítima, documentado na ficha de dados, e submetido a testes de impacto díspar antes da implantação. Se o ratio de impacto díspar ficar abaixo de 0,8 para um subgrupo protegido, a variável deve ser removida do modelo ou o conjunto de dados deve ser re-balanceado antes do novo teste.

Quem responde perante a ANPD em caso de viés comprovado: a IES ou o fornecedor de IA?

A IES é o controlador dos dados nos termos do art. 5, VI da LGPD e responde perante a ANPD independentemente dos contratos firmados com fornecedores de tecnologia. O fornecedor de IA pode ser qualificado como operador (art. 5, VII da LGPD) — o que não exime a IES de sua responsabilidade como controladora. As IES devem exigir declaração de conformidade LGPD de seus fornecedores, incluir cláusulas de responsabilidade compartilhada nos contratos, e documentar suas próprias medidas de mitigação de viés de forma independente das garantias contratuais obtidas.

Qual é o custo da conformidade para uma IES privada de médio porte?

O custo varia conforme o escopo do sistema e a maturidade de governança de dados existente. Uma auditoria inicial de conformidade LGPD para um sistema de admissão automatizado geralmente leva de 2 a 4 semanas. Um orçamento anual de monitoramento e manutenção da conformidade situa-se tipicamente entre R$ 80.000 e R$ 200.000 conforme a complexidade do sistema e a capacidade interna disponível. A título comparativo, a sanção máxima da LGPD pode alcançar 2% do faturamento bruto da organização no Brasil, limitado a R$ 50 milhões por infração (art. 52, II da LGPD) — o que torna o investimento preventivo em conformidade economicamente racional mesmo para IES de menor porte.