Um estudo revelou que o ChatGPT, da OpenAI, classifica currículos que mencionam deficiências de forma consistentemente mais baixa. A pesquisa foi apresentada este mês na Conferência ACM de 2024 sobre Justiça, Responsabilidade e Transparência no Rio de Janeiro.

Segundo informações divulgadas pela Revista Galileu, a pesquisa sugere que é necessário ter maior conscientização sobre os preconceitos da IA em processos de contratação e a importância de mais pesquisas para corrigir esses vieses.

Publicidade

Ainda, de acordo com a reportagem, o primeiro passo para a pesquisa ocorreu quando a estudante de doutorado Kate Glazko notou que ferramentas de IA como o ChatGPT eram usadas para classificar currículos e decidiu investigar como esses sistemas classificariam currículos que mencionassem deficiências. O ChatGPT avaliou negativamente currículos que mencionavam honrarias e credenciais relacionadas à deficiência. Após personalizar a ferramenta com instruções para evitar preconceitos capacitistas, houve melhorias em cinco das seis deficiências testadas, mas a classificação para autismo e depressão teve pouca ou nenhuma melhora.

Os pesquisadores usaram currículos aprimorados para implicar diferentes deficiências e observaram que o sistema tinha um viés contra currículos com referências à deficiência. As respostas do GPT-4 revelaram preconceitos, como considerar que o envolvimento com diversidade, equidade e inclusão ou deficiência poderia prejudicar outras partes do currículo.