最好的意圖 人工智能和人力資源歧視

許多研究人員對不止一個科學領域感興趣，而社會科學家通常對廣泛的人類狀況感興趣。 就我而言，我開始在舊金山州立大學學習臨床心理學（當時我們仍然可以在本科階段學習）。 隨著時間的推移，我逐漸意識到我的興趣在於研究和改變那些促使和加劇我們在個人和社會中看到的痛苦的社會條件。 其中大部分是由大量社會心理學課程引起的，這些課程給我留下了深刻的印象，這種情況對個人行為和態度的影響。 因此，在畢業並擔任 11 年級和 12 年級高危學生的教師/工作教練後，我知道是時候攻讀社會心理學研究生教育了。 我首先感興趣的領域是偏見和歧視。

我的碩士學位和博士學位 來自華盛頓特區的霍華德大學。 在那裡，我對一些關注的領域進行了兩項相關的研究。 第一部分是研究界普遍存在的操縱類型，尤其是行為經濟學。

量刑的種族和嚴重程度

我對種族和性別在白領犯罪量刑嚴重程度方面的交叉感興趣。 因此，我編造了可能發生白領犯罪的情況，然後操縱（更改）罪犯的姓名和性別。 於是，德安德烈·韋斯特變成了約翰·懷特。 分析結果與我們在其他各種環境中看到的歧視類型相匹配，特別是在人力資源選擇、招聘、培訓和薪酬方面。 換句話說，我們看到有非洲裔美國人名字的人比被認為是白人的人給出了更重要的句子。 請記住，我們從未告訴人們被判刑的種族，他們推斷。

人工智能和種族/國籍預測

當我上個月讀到這篇文章時，隸屬於石溪大學的研究人員推出了一款免費應用程序（http://www.name-prism.com) 使用算法從一個名字中猜測種族和國籍的準確率約為 80%，我開始感興趣了。 計算機科學家 Steven Skiena（參與該項目）說，你可以用它來跟踪各行各業的招聘趨勢。 “此工具的目的是識別和防止歧視，”斯基納說。

雖然理論上可能是這樣，而且與該項目相關的好人已經實施了一些安全機制，將每小時可以掃描的姓名數量限制為 1,000，但似乎根據研究，掃描招聘數據 “少數派”通常需要的簡歷比職位少得多。 讓我通過我在學校期間進行的一小部分研究來說明沒有應用程序的情況。

選擇和猜名

我在舊金山的一位亞洲同事給人的印像是她從未受到過歧視。 雖然在以多元化著稱的舊金山/灣區可能就是這種情況，但這個問題在華盛頓特區大都市區仍然可行。 所以，在那裡，我拿了她的簡歷，找到了 100 個適用的工作，並為她申請了兩次。 一次是我的姓，一次是她的姓（中文）。 我給出了 2 個不同的回電號碼並等待……可悲的是，與亞洲名字相比，有大量回電是為了白色發音的姓氏。 這是一種普遍現象，候選人永遠不知道自己被忽略了，遺憾的是，許多從事類似研究的機構都在跟踪。

最佳意圖、人力資源最佳實踐和人工智能

因此，雖然在這種情況下人工智能的目標令人欽佩，但使用經過驗證的工具衡量能力的完全盲目招聘過程的價值可能比傳統的簡歷輸入/簡歷輸出更有效和更省時。 重要的是，它可以防止我們在反映刻板印象和偏見的選擇中表現出來的無意識偏見。 令人遺憾的是，我們每週都會看到一連串員工歧視案件（請查看 Google 新聞中的“就業歧視”）。 因此，雖然一些人工智能工具的意圖很勇敢，但不當使用可能會在社會層面產生嚴重的負面影響。

更多關於這條收費公路的信息，敬請期待！