Mejores intenciones AI y discriminación de recursos humanos

Muchos investigadores están interesados ​​en más de un área de la ciencia, y los científicos sociales a menudo están interesados ​​en un amplio espectro de la condición humana. En mi caso, comencé en el estado de San Francisco estudiando psicología clínica (en los días en que todavía podíamos hacer eso a nivel de pregrado). Con el tiempo me di cuenta de que mis intereses estaban en estudiar y cambiar las condiciones sociales que impulsan y exacerban el sufrimiento que vemos en los individuos y la sociedad. La mayor parte de esto fue provocado por una fuerte dosis de clases de psicología social, que me imprimieron profundamente el impacto de la situación en el comportamiento y las actitudes individuales. Entonces, después de graduarme y trabajar como maestra / capacitadora laboral para estudiantes de 11 ° y 12 ° grado en riesgo, supe que era hora de seguir una educación de posgrado en psicología social. Mis primeras áreas de interés fueron los prejuicios y la discriminación.

Mi maestría y doctorado. son de la Universidad de Howard, en Washington DC. Mientras estuve allí, realicé dos investigaciones relevantes para algunas áreas de interés. La primera pieza es un tipo de manipulación que se ha convertido en un lugar común en la comunidad de investigación, en particular la economía del comportamiento.

Raza y severidad de la sentencia

Estaba interesado en la intersección de raza y género en la severidad de la sentencia en delitos de cuello blanco. En consecuencia, inventé situaciones probables en las que se cometieron delitos de cuello blanco y luego manipulé (cambié) los nombres y sexos de los delincuentes. Entonces, De’andre West se convirtió en John White. Los resultados de los análisis coincidieron con el tipo de discriminación que vemos en una variedad de otros entornos, en particular, la selección, contratación, capacitación y compensación de recursos humanos. En otras palabras, vimos a la persona con el nombre que suena afroamericano con una oración más significativa que a los individuos percibidos como blancos. Recuerde, nunca le dijimos a la gente la raza de los sentenciados, ellos infirieron.

IA y predicción de etnia / nacionalidad

Cuando leí eso el mes pasado, los investigadores afiliada a la Universidad de Stony Brook lanzó una aplicación gratuita ( http: //www.name-prism .com ) usando algoritmos para adivinar el origen étnico y la nacionalidad de un nombre con aproximadamente un 80% de precisión, me interesé. El informático Steven Skiena (que trabajó en el proyecto) dijo que podría usarlo para rastrear las tendencias de contratación en sectores de la industria. "El propósito de esta herramienta es identificar y prevenir la discriminación", dijo Skiena.

Si bien en teoría ese podría ser el caso, y las buenas personas asociadas con el proyecto han implementado algunos mecanismos de seguridad que limitan la número de nombres que se pueden escanear cada hora hasta 1.000, parece que, según la investigación, el escaneo de los datos de contratación en busca de "nombres de minorías" generalmente requiere muchos menos currículums que para un puesto. Permítanme ilustrar cómo funciona esto sin la aplicación a través de una pequeña investigación que realicé mientras estaba en la escuela.

Selección y adivinación de nombres

Una colega asiática mía de San Francisco tenía la impresión de que nunca la habían discriminado. Si bien ese podría haber sido el caso en el famoso y diverso SF / Bay Area, la pregunta seguía siendo viable en el área metropolitana de Washington, DC. Entonces, mientras estaba allí, tomé su currículum, encontré 100 trabajos aplicables y los solicité por ella, dos veces. Una vez con mi apellido y una vez con su apellido (chino). Di 2 números de devolución de llamada diferentes y esperé ... Lamentablemente, una cantidad significativa de llamadas regresaron para el apellido que sonaba blanco en comparación con el nombre asiático. Este es un fenómeno común, en el que el candidato nunca sabe que ha sido pasado por alto, lamentablemente seguido por una serie de agencias que llevan a cabo tipos de investigación similares.

Mejores intenciones, mejores prácticas de recursos humanos y IA

Entonces, si bien los objetivos de la IA en este caso son admirables, el valor de un proceso de reclutamiento completamente ciego que mide las competencias utilizando herramientas validadas es probablemente mucho más efectivo y eficiente en el tiempo que el tradicional reanudar la entrada / reanudar la salida. Es importante destacar que nos previene del tipo de sesgo inconsciente que se manifiesta en elecciones que reflejan estereotipos y prejuicios. Es lamentable que veamos una letanía de casos de discriminación de empleados semanalmente (consulte Google News para "Discriminación en el empleo"). Entonces, si bien las intenciones de algunas herramientas de inteligencia artificial son valientes, el uso inapropiado puede tener consecuencias significativamente negativas que se manifiestan a nivel social.

Más sobre esto en la autopista de peaje, ¡estad atentos!