Enunciado
Quando quis agilizar o processo de seleção de novos alunos, a tradicional faculdade britânica de medicina St. George usou um software para definir quem deveria ser entrevistado. Ao reproduzir a forma como os funcionários faziam essa escolha, o programa eliminou, de cara, 60 de 2 000 candidatos. Só por causa do sexo ou da origem racial, numa dedução baseada em sobrenome e local de nascimento. Um estudo sobre o caso foi publicado em 1988, mas, 25 anos depois, outra pesquisa apontou que esse tipo de discriminação segue firme. O exemplo recente envolve o buscador do Google: ao digitar nomes comuns entre negros dos EUA, a chance de os anúncios automáticos oferecerem checagem de antecedentes criminais pode aumentar 25%. E pode piorar com a pergunta “detido?” logo após a palavra procurada.
Disponível em: https://tab.uol.com.br. Acesso em: 11 ago. 2017 (adaptado).
O texto permite o desnudamento da sociedade ao relacionar as tecnologias de informação e comunicação com o(a)
Fonte: INEP · ENEM 2020 · 1ª aplicação · Dia 1 · Caderno azul.
Dia 1 · Caderno azul · 1ª aplicação
O programa aprende ou reproduz critérios que já carregam desigualdades e passa a aplicá-los automaticamente. No outro exemplo, a associação entre nomes e antecedentes reforça um viés racial.
A alternativa D identifica o preconceito. O fato de uma decisão ser feita por software não a torna neutra: dados, critérios e resultados precisam ser examinados em seu contexto social.