ベストインテンションAIとHRの差別

多くの研究者は複数の科学分野に関心を持っており、社会科学者は多くの場合、人間の状態の広い範囲に関心を持っています。私の場合、私はサンフランシスコ州立大学で臨床心理学を勉強し始めました（当時はまだ学部レベルでそれを行うことができました）。時間が経つにつれて、私は自分の興味が、個人や社会に見られる苦しみを促し、悪化させる社会的条件を研究し、変えることにあることに気づきました。これのほとんどは、個人の行動や態度に対する状況の影響を私に深く刻み込んだ大量の社会心理学の授業によって促されました。ですから、卒業して危険にさらされている11年生と12年生の教師/ジョブコーチとして働いた後、私は社会心理学の大学院教育を追求する時が来たことを知りました。私の最初の関心分野は偏見と差別でした。

修士号と博士号。ワシントンDCのハワード大学の出身です。そこにいる間、私はいくつかの関心のある分野に関連する2つの調査を実施しました。最初の部分は、研究コミュニティ、特に行動経済学で一般的になっている操作のタイプです。

量刑の人種と重大度

ホワイトカラー犯罪の判決の厳しさにおける人種と性別の交差点に興味がありました。 したがって、私はホワイトカラー犯罪が発生した可能性のある状況を考え出し、犯罪者の名前と性別を操作（変更）しました。 そう、デアンドレウェストはジョンホワイトになりました。 分析の結果は、他のさまざまな環境で見られる差別の種類、特に人材の選択、採用、トレーニング、報酬と一致していました。 言い換えれば、アフリカ系アメリカ人の響きの名前を持つ人が、白人として認識されている人よりも重要な文を与えられているのを見ました。 覚えておいてください、私たちは判決の人種を人々に決して伝えませんでした、彼らは推測しました。

AIと民族/国籍の予測

先月それを読んだとき、ストーニーブルック大学に所属する研究者が無料のアプリを立ち上げました（ http://www.name-prism.com ）アルゴリズムを使用して、名前から民族性と国籍を約80％の精度で推測することに興味を持ちました。 コンピューター科学者のスティーブン・スキーナ（プロジェクトに携わった）は、このプロジェクトを使用して、さまざまな業界の採用傾向を追跡できると述べました。 「このツールの目的は、差別を特定して防止することです」とスキーナは述べています。

理論的にはそうかもしれませんが、プロジェクトに関係する善良な人々は、1時間ごとにスキャンできる名前の数を1,000に制限するいくつかの安全メカニズムを導入していますが、調査に基づくと、採用データをスキャンしているようです。 「マイノリティ名」の場合、通常、ポジションの場合よりもはるかに少ない履歴書が必要です。 学校にいる間に行った小さな調査を通じて、アプリなしでこれがどのように機能するかを説明しましょう。

選択と名前の推測

サンフランシスコ出身の私のアジア人の同僚は、彼女が差別されたことは一度もないという印象を受けました。 有名な多様なSF /ベイエリアではそうだったかもしれませんが、ワシントンDCの大都市圏では問題は依然として実行可能でした。 それで、そこにいる間、私は彼女の履歴書を取り、100の該当する仕事を見つけて、彼女のために2回応募しました。 1回は私の姓、もう1回は彼女の姓（中国）です。 私は2つの異なるコールバック番号を付けて待っていました…悲しいことに、アジアの名前と比較して、白い響きのラストネームに対してかなりの数のコールが戻ってきました。 これは一般的な現象であり、候補者は自分が渡されたことを知らず、同様のタイプの調査を行っている多くの機関によって残念ながら追跡されています。

ベストインテンション、HRベストプラクティス、 AI

したがって、この場合のAIの目標は称賛に値しますが、検証済みのツールを使用して能力を測定する完全にブラインドな採用プロセスの価値は、従来の再開/再開よりもはるかに効果的で時間効率が高いでしょう。 重要なのは、ステレオタイプや偏見を反映した選択に現れるような無意識の偏見を防ぐことです。 毎週、従業員差別事件が多数発生していることを残念に思います（「雇用差別」についてはGoogleニュースを確認してください）。 そのため、一部のAIツールの意図は勇敢ですが、不適切な使用は、社会レベルで明らかになる重大な悪影響をもたらす可能性があります。

これがターンパイクを下って来ることについての詳細は、お楽しみに！