最好的意图 AI 和 HR 歧视

许多研究人员对不止一个科学领域感兴趣，而社会科学家通常对广泛的人类状况感兴趣。 就我而言，我开始在旧金山州立大学学习临床心理学（当时我们仍然可以在本科阶段学习）。 随着时间的推移，我逐渐意识到我的兴趣在于研究和改变那些促使和加剧我们在个人和社会中看到的痛苦的社会条件。 其中大部分是由大量社会心理学课程引起的，这些课程给我留下了深刻的印象，这种情况对个人行为和态度的影响。 因此，在毕业并担任 11 年级和 12 年级高危学生的教师/工作教练后，我知道是时候攻读社会心理学研究生教育了。 我首先感兴趣的领域是偏见和歧视。

我的硕士学位和博士学位 来自华盛顿特区的霍华德大学。 在那里，我对一些关注的领域进行了两项相关的研究。 第一部分是研究界普遍存在的操纵类型，尤其是行为经济学。

量刑的种族和严重程度

我对种族和性别在白领犯罪量刑严重程度方面的交叉感兴趣。 因此，我编造了可能发生白领犯罪的情况，然后操纵（更改）罪犯的姓名和性别。 于是，德安德烈·韦斯特变成了约翰·怀特。 分析结果与我们在其他各种环境中看到的歧视类型相匹配，特别是在人力资源选择、招聘、培训和薪酬方面。 换句话说，我们看到有非洲裔美国人名字的人比被认为是白人的人给出了更重要的句子。 请记住，我们从未告诉人们被判刑的种族，他们是推断的。

人工智能和种族/国籍预测

当我上个月读到这篇文章时，隶属于石溪大学的研究人员推出了一款免费应用程序（http://www.name-prism.com) 使用算法从一个名字中猜测种族和国籍的准确率约为 80%，我开始感兴趣了。 计算机科学家 Steven Skiena（参与该项目）说，你可以用它来跟踪各行各业的招聘趋势。 “此工具的目的是识别和防止歧视，”斯基纳说。

虽然理论上可能是这样，而且与该项目相关的好人已经实施了一些安全机制，将每小时可以扫描的姓名数量限制为 1,000，但似乎根据研究，扫描招聘数据 “少数派”通常需要的简历比职位少得多。 让我通过我在学校期间进行的一小部分研究来说明没有应用程序的情况。

选择和猜名

我在旧金山的一位亚洲同事给人的印象是她从未受到过歧视。 虽然在以多元化着称的旧金山/湾区可能就是这种情况，但这个问题在华盛顿特区大都市区仍然可行。 所以，在那里，我拿了她的简历，找到了 100 个适用的工作，并为她申请了两次。 一次是我的姓，一次是她的姓（中文）。 我给出了 2 个不同的回电号码并等待……可悲的是，与亚洲名字相比，有大量回电是为了白色发音的姓氏。 这是一种普遍现象，候选人永远不知道自己被忽略了，遗憾的是，许多从事类似研究的机构都在跟踪。

最佳意图、人力资源最佳实践和人工智能

因此，虽然在这种情况下人工智能的目标令人钦佩，但完全盲目的招聘过程的价值在于衡量能力 经过验证的工具可能比传统的简历输入/简历输出更有效和更省时。 重要的是，它可以防止我们在反映刻板印象和偏见的选择中表现出来的无意识偏见。 令人遗憾的是，我们每周都会看到一连串员工歧视案件（请查看 Google 新闻中的“就业歧视”）。 因此，虽然一些人工智能工具的意图很勇敢，但不当使用可能会在社会层面产生严重的负面影响。

更多关于这条收费公路的信息，敬请期待！