Discriminação de IA e RH de melhores intenções

Muitos pesquisadores estão interessados ​​em mais de uma área da ciência e os cientistas sociais frequentemente estão interessados ​​em um amplo espectro da condição humana. No meu caso, comecei no estado de São Francisco estudando psicologia clínica (na época em que ainda podíamos fazer isso na graduação). Com o tempo, percebi que meus interesses eram estudar e mudar as condições sociais que provocam e agravam o sofrimento que vemos nos indivíduos e na sociedade. A maior parte disso foi motivado por uma grande dose de aulas de psicologia social, que gravou profundamente em mim o impacto da situação no comportamento e nas atitudes individuais. Então, depois de me formar e trabalhar como professor / treinador de empregos para alunos em risco do 11º e 12º ano, eu sabia que era hora de fazer pós-graduação em psicologia social. Minhas primeiras áreas de interesse foram preconceito e discriminação.

Meu mestrado e meu doutorado. são da Howard University, em Washington DC. Enquanto estava lá, conduzi duas pesquisas relevantes para algumas áreas de preocupação. A primeira parte é um tipo de manipulação que se tornou comum na comunidade de pesquisa, em economia comportamental particular.

Raça e gravidade da sentença

Eu era interessado na interseção de raça e gênero na severidade da condenação em crimes de colarinho branco. Conseqüentemente, elaborei situações prováveis ​​em que ocorreram crimes de colarinho branco e, em seguida, manipulei (mudei) os nomes e sexos dos criminosos. Então, De’andre West se tornou John White. Os resultados das análises corresponderam ao tipo de discriminação que vemos em uma variedade de outros ambientes, em particular, seleção de recursos humanos, recrutamento, treinamento e remuneração. Em outras palavras, vimos a pessoa com o nome que soa afro-americano receber uma frase mais significativa do que os indivíduos percebidos como brancos. Lembre-se de que nunca contamos às pessoas a raça dos condenados, eles inferiram.

IA e previsão de etnia / nacionalidade

Quando li isso no mês passado, pesquisadores afiliados à Stony Brook University lançaram um aplicativo gratuito ( http://www.name-prism.com ) usando algoritmos para adivinhar a etnia e a nacionalidade de um nome com cerca de 80% de precisão, fiquei interessado. O cientista da computação Steven Skiena (que trabalhou no projeto) disse que você poderia usá-lo para rastrear as tendências de contratação em setores da indústria. “O objetivo desta ferramenta é identificar e prevenir a discriminação”, disse Skiena.

Embora em teoria esse possa ser o caso, e as boas pessoas associadas ao projeto colocaram alguns mecanismos de segurança em vigor para limitar o número de nomes que podem ser escaneados de hora em hora para 1.000, parece que, com base na pesquisa, escanear os dados de recrutamento para “nomes de minorias” geralmente requer muito menos currículos do que para uma posição. Deixe-me ilustrar como isso funciona sem o aplicativo por meio de uma pequena pesquisa que conduzi enquanto estava na escola.

Seleção e adivinhação de nomes

Um colega asiático minha de São Francisco tinha a impressão de que ela nunca havia sido discriminada. Embora esse possa ter sido o caso na famosa área diversificada de SF / Bay Area, a questão permaneceu viável na área metropolitana de Washington, DC. Então, enquanto estava lá, peguei seu currículo, encontrei 100 empregos aplicáveis ​​e me candidatei a eles por ela, duas vezes. Uma vez com meu sobrenome e outra com seu sobrenome (chinês). Dei 2 números de retorno de chamada diferentes e esperei ... Infelizmente, um número significativo de chamadas voltou para o sobrenome branco em comparação com o nome asiático. Esse é um fenômeno comum, no qual o candidato nunca sabe que foi preterido, infelizmente rastreado por várias agências que realizam pesquisas semelhantes.

Melhores intenções, práticas recomendadas de RH e IA

Portanto, embora os objetivos da IA neste caso sejam admiráveis, o valor de um processo de recrutamento totalmente cego que mede as competências usando ferramentas validadas são provavelmente muito mais eficazes e eficientes em termos de tempo do que o currículo tradicional de entrada / saída. É importante ressaltar que nos impede do tipo de preconceito inconsciente que se manifesta em escolhas que refletem estereótipos e preconceitos. É uma pena que vejamos uma ladainha de casos de discriminação de funcionários semanalmente (verifique o Google News para "Discriminação no emprego"). Portanto, embora as intenções de algumas ferramentas de IA sejam valiosas, o uso inadequado pode ter consequências significativamente negativas que se manifestam no nível social.

Mais sobre essa descida na estrada, fique atento!