米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた 115
ストーリー by headless
判定 部門より
判定 部門より
米Amazonが求職者の履歴書に自動でランキング付けするAIシステムを研究していたが、一部の職種で男性に有利な判定をすることが判明して開発を中止していたとReutersが報じている(Reutersの記事、
The Guardianの記事、
Mashableの記事、
V3の記事)。
Reutersの情報提供者によると、開発が始まったのは2014年。このシステムはAmazonのレビューと同様に星5つで履歴書をランキングするものだったという。しかし、ソフトウェア開発者やそのほかの技術職では性別によってかたよった判定をすることが翌年までに判明する。学習に使用したデータは過去10年にAmazonに送られた履歴書であり、そのほとんどが男性求職者の履歴書だったことが原因とみられる。その結果、「women's」などの語句を含む履歴書や、女子大学2校の卒業者の履歴書は減点の対象になっていたそうだ。
Amazonは特定の語句についてニュートラルな判定をするようプログラムを調整したが、差別的処理が行われていることを判別できない方法をAIが見つけ出さないとも限らないため、昨年初めに開発チームは解散したとのこと。AmazonはReutersに対し、技術的困難に関する質問に回答しなかったが、人事担当者が実際に使用したことはないと述べたという。ただし、AIが生成した判定結果を人事担当者が見たかどうかについては否定しなかったとのことだ。
Reutersの情報提供者によると、開発が始まったのは2014年。このシステムはAmazonのレビューと同様に星5つで履歴書をランキングするものだったという。しかし、ソフトウェア開発者やそのほかの技術職では性別によってかたよった判定をすることが翌年までに判明する。学習に使用したデータは過去10年にAmazonに送られた履歴書であり、そのほとんどが男性求職者の履歴書だったことが原因とみられる。その結果、「women's」などの語句を含む履歴書や、女子大学2校の卒業者の履歴書は減点の対象になっていたそうだ。
Amazonは特定の語句についてニュートラルな判定をするようプログラムを調整したが、差別的処理が行われていることを判別できない方法をAIが見つけ出さないとも限らないため、昨年初めに開発チームは解散したとのこと。AmazonはReutersに対し、技術的困難に関する質問に回答しなかったが、人事担当者が実際に使用したことはないと述べたという。ただし、AIが生成した判定結果を人事担当者が見たかどうかについては否定しなかったとのことだ。
性別の情報を入れていないのに結果が偏ったのだとしたら (スコア:2)
仕事に従順だったり企業にとって得な人材を合理的に選んだだけで
結果的に男女差が現れてしまったということだったとしても
社会的に受け入れられない事が可視化されてしまうという事かもしれないと感じました。
現在の企業の体制において良く働くという面だけで選ぶと男女差が生じてしまうのであれば
それも企業にとって都合が悪い事という風に評価して、
男女の情報も与えた上でバイアス調整しする事も必要なんじゃないですかね。
優遇処置の必要性 (スコア:3, すばらしい洞察)
まず社会的環境は男性に有利な状況があります。
これは日本では顕著ですが欧米にもあります。
そしてAIが判定するのはそういう男性が有利な社会において男性が得てきた「履歴」です。つまり、男性が優遇されている社会において重ねてきたプラス材料に対して不利な女性の履歴はAIでは低く評価されてしまうということです。
男女差に限りません。
お金持ちの家に生まれ、学力はイマイチでもお金の力で有名私大を出た人間の履歴と、学力は高いものの経済的理由で地方の公立大学が精一杯だった人間の履歴とでは、AIは前者を高く評価判定するでしょう。
そういう不平等を是正するために弱者優遇処置で弱者が持っているハンデをある程度無効化する必要があるんですね。
男女の能力差をAIが判定したわけではないでしょう。
Re:優遇処置の必要性 (スコア:3)
＞「現在の企業の体制において良く働くという面だけで」
今日においては男性の方が企業の営利つながるという結果が出てしまう事には
あまり疑問もなく、そういうものなのかなと思ったわけです。
人の営み全体で男女の能力差に優劣があるなどと言いたいのではなくで、
単に、今の社会的環境の企業の利益面のための採用という面においては、男性を取ったほうが得だという結果が出てしまったと。
だいたい似たような意見ですよ。
Re:優遇処置の必要性 (スコア:2)
一番影響がありそうに思えるのはやはり結婚や出産などを期に辞めてしまう文化じゃないんですかね。
もし、単なる思い込みに過ぎず、人材確保の機会を失っているだけであれば、
そういう思い込みを排除できた方が業績が上がっていくでしょうから、
AIがそういう結果も材料に学習するなり、市場原理などで、
今後は放っておいても改善しているのかもしれないですね。
でも、古今東西でずっと発生している状況だったのなら、
やはり思い込みだけではなくて、何らかの合理性がそうさせているんじゃないかとは思います。
繁殖できない分、働き蟻や使い捨て要因として労働力や戦争には男性の方が向いてるんじゃないですかね。
これからの時代ではそれが是正されるべきという意見には賛成ですが、
上記のように思うので、放置してAIや市場原理に任せておいても勝手に良くはならない気がしますよ。
Re:優遇処置の必要性 (スコア:2)
思い込みに過ぎないのであれば営利競争への最適化や市場原理に任せて放って置くだけで勝手に良くなっていきますよ。
そうでないから、奴隷のような働かせ方を規制したり、男女雇用機会均等への規制などをして調整する必要があるのでしょう。
復帰するか否か別としても出産前後には仕事を任せられない期間が生じますし、夫が妻を養うという家庭スタイルもまだまだ少なくありませんよ。世の中働きたい人ばかりではなくて雇われずに家の仕事をしたい人だって多くいます。現実的には結婚や出産を期に勤め人をやめることを選ぶ人って女性の方がずっと多いんじゃないでしょうか。