Lorena é estudante do terceiro semestre do curso de graduação em arquitetura e está em busca do seu primeiro estágio. Indicada pela coordenação do seu curso, ela procura vagas na plataforma da agência de estágios da universidade em que ela estuda. Após um certo tempo de uso da ferramenta ela notou um padrão nas vagas para as quais ela foi indicada, sendo majoritariamente direcionada para cargos de suporte administrativo, enquanto seus colegas homens com o mesmo currículo recebiam indicações para escritórios de engenharia civil. Considerando as informações sobre as implicações éticas e sociais da IA e o caso abordado, assinale a alternativa correta:

Alternativa B

A estudante identificou um viés algorítmico que reforça discriminações de gênero.

Introdução

O cenário descrito na questão ilustra um problema fundamental no desenvolvimento e uso de tecnologias de Inteligência Artificial (IA): a reprodução de preconceitos sociais pelos sistemas automatizados. Quando plataformas de recomendação de vagas tratam candidatos de gêneros diferentes de forma distinta, mesmo com qualificações equivalentes, estamos diante de uma falha ética no algoritmo.

Desenvolvimento

Para entender a resposta correta, precisamos definir o conceito central envolvido. O viés algorítmico ocorre quando um sistema computacional produz resultados sistematicamente prejudiciais a certos grupos de pessoas. Isso geralmente acontece porque o algoritmo foi treinado com dados históricos que já continham desigualdades ou estereótipos da sociedade.

No caso de Lorena, a IA parece ter aprendido que "mulheres fazem suporte administrativo" e "homens fazem engenharia", ignorando a capacidade técnica individual expressa nos currículos.

Analise das Alternativas

• Alternativa A (Incorreta): A situação não demonstra meritocracia. Na meritocracia, as oportunidades seriam distribuídas com base no mérito e na capacidade individual, não no gênero. Como os colegas homens receberam vagas melhores com o mesmo currículo, o critério não foi o mérito.
• Alternativa B (Correta): Esta é a definição exata do problema. O viés algorítmico é o mecanismo pelo qual a IA reforça discriminações existentes (neste caso, de gênero), limitando as oportunidades profissionais das mulheres.
• Alternativa C (Incorreta): A ferramenta não é imparcial. Embora possa estar refletindo tendências históricas do mercado, classificar isso como "reflexo do mercado" ignora a responsabilidade ética de corrigir essas distorções através da tecnologia, em vez de perpetuá-las.
• Alternativa D (Incorreta): A neutralidade seria demonstrada se a plataforma indicasse vagas iguais para todos com perfis iguais. O fato de haver uma separação clara por gênero prova que a plataforma não é neutra.
• Alternativa E (Incorreta): A automação não garante conduta ética. Pelo contrário, algoritmos podem automatizar e escalar a discriminação de maneira muito mais rápida e difícil de auditar do que um recrutador humano.

Conclusão

A alternativa B é a única que reconhece criticamente a natureza do problema tecnológico apresentado: a existência de um viés no sistema que gera consequências sociais negativas, especificamente a discriminação de gênero.