パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた」記事へのコメント

  • 開発チームは解散したみたいだけど,
    もしこのチームを解散させないために目的に変更するなら,
    どんな目的なら継続できそう?

    例えば,応募者を判定するのではなく,過去採用データを解析するために
    決定木のような AI を使うと変更したら.

    人事にかかわる人は一部なので,採用者はどうしても偏る.
    これまでの採用者にどのような偏りがあり,
    その偏りが必要なものなのか,解消するべきなのか検討して,
    今後の採用人事に活用するとしたら,継続できそう?

    • 採用したかどうかではなくて、採用後にどれくらい成果を残したかで判定するようにすればいいんじゃない?

      #その結果、白人男性がもっとも成果を残すことが分かったってんなら根は深いが……。

      親コメント
      • 採用したかどうかではなくて、採用後にどれくらい成果を残したかで判定するようにすればいいんじゃない?

        なるほど.
        採用されていればその人が仕事で活躍したかは会社に情報があるから,
        その情報を活用するのは意味がありますね.
        その視点は思いつきませんでした.

        親コメント
      • by Anonymous Coward

        今回、男性の応募者が多く、結果男性の採用者数が多くなったという結果をもって、
        女性や女性にかかわる内容がマイナス評価されたって話なんで、
        もし
        ・社内の分布として白人男性が最多数派
        ・人種・性別でカテゴリー分けしたとき、カテゴリー内での成果か分布がほぼ同じ
        という前提なら、たぶんAIは「白人男性がもっとも成果を残している(絶対数的な意味で)」って判断するんじゃないかな。
        無論、特に2つ名の前提がちょっと極端すぎなのはわかってるけど、
        そういう判断をするデータベース(いい加減AI呼ぶの嫌になった)が、
        果たして現実的なデータを食っても望み通り(成果をいらん属性で評価しない)の結果を出してくれるかわからん、
        つまりプログラムそのものに欠陥があるって判断が今回の結果でしょうね。
        だから「もし」はない、目的変更自体がありえないってのが答えかと。

      • by Anonymous Coward

        そもそも「成果」の評価自体が自明じゃなくて、しばしば恣意的に行われるものなので。

        「この人の成果が94.75だけど、こっちの人は32.70か」みたいに計測できるわけじゃない。

        営業の売り上げみたいなのでも、前任者が顧客との信頼関係を育てたおかげかもしれないし、
        会社のブランドや画期的新商品によるものかもしれない。そういったものを全て切り分けて、
        本人の貢献部分のみを数値化するなんて、いったいどうやれば実現できるんだ?
        #野球でいう「送りバント」や「犠牲フライ」みたいな貢献もあるしねえ……
        #ランナーとバッターの貢献度は何対何で振り分けるのが妥当なのだろう

        • by Anonymous Coward
          野球みたいに細かくメンバー変えながら年間100回以上の試行を行うなら
          個々のメンバーの貢献度なんて簡単に統計で出てくるだろ。
          他のメンバーも球場も対戦相手も変わらずに選手1人だけ交代したときの勝率の差がそいつの貢献度だよ
          複数の条件が同時に変わるので容易には計算できないけど、それは容易じゃないというだけの話
          • by Anonymous Coward

            それは論外だと思う。

            同じメンバー、同じ条件で同じ敵に対して互いに同じ作戦で攻めるなら同じ結果に繫がるかも知れないけど、
            普通は全部異なるし、しかも人間は経験を積むんだ。同じ相手と戦った場合でさえも前回の反省を
            元に戦い方を変えてくる。同じ結果は二つとない。

            しかもチームで戦ってるからなおさら。

            さらにメンバーを入れ替えても、たとえば送りバントにおいて、バントする側と走る側との貢献度比の
            問題については何も解決してくれない。送りバントに成功した場合でさえも、それはバントが上手かった
            からか足が早いからか、単に敵がヘッポコだったからか、さあどれだ。
            しかも同じ相手に何度も送りバントをくり返せば、送りバントを警戒されるようになるから、
            自動的に成功率は下がる。

      • by Anonymous Coward

        目的は変えずに改良すればいいだけだったと思います。

        男性の履歴は社会的に下駄をはかせられた環境での履歴なので、履歴だけで男性と女性の能力を比較するのは無理があります。

        ただ、採用後の成績は公平に測ることができるので、男女の比較として補正するデータには使えますね。

        AIのことはよくわかりませんが、仮にスコアが150の男性の履歴とスコアが100の女性の履歴で同じ成績を出していたなら、AIでの判定時に女性には1.5倍をかければいいと思います。

      • by Anonymous Coward

        多分その通りのことが起きたのだと思いますよ。
        アマゾンの配送や倉庫の業務だと、どうしても男女差は出るでしょうから。
        真実はどうあれ、アマゾンの規模だとポリティカル・コレクトネスを意識せざるを得ない。

      • by Anonymous Coward

        能力とか成果なんて無視して単純に男女半々になるように採用すればいいんだよ。
        そんなものを考慮するから差別的な結果になる。
        不採用になった奴の結果なんで永遠に誰もわからないんだから問題ない。
        採用したのが最適ということになっているわけだから、例え酷い奴らを採用したところで、他のはもっと酷いということになる。

        本当に差別を無くしたいならば男性のみとか女性のみとかになっても受け入れろっての。

    • by Anonymous Coward

      別のチームが立ち上がるだけじゃないかな

    • by Anonymous Coward

      “偏っている”ことを妥当性も考えずに悪と考えているからじゃない?
      発想を変えて”男性にだけ適用できる判定AI”にすれば問題ないし、そもそもなんで偏るのかを考えても良いと思うけど、それってAIじゃなくて本来の意味でのBI(Business Intelligence)だよね
      AIとかいう前にまずデータを可視化しろと

      • AIとかいう前にまずデータを可視化しろと

        可視化は重要ですよね.
        元のコメントに決定木と書いたのは,それが AI の手法でデータを見やすくするものだからです.
        例えば決定木の可視化ライブラリ dtreeviz [hatenablog.com] を使うとデータを理解しやすいですね.

        親コメント
      • by Anonymous Coward

        >発想を変えて”男性にだけ適用できる判定AI”にすれば問題ないし、
        いつから差別には男女差別しかないと勘違いしていた?

        このAIはあらゆる差別を再現する。それは男女差別に限定されない。
        男性応募者だけに適用したしても、今度は人種差別問題とか国籍差別とか出るだろうね。
        この地域は黒人出身社が多いから不採用とか、大学がX国の大学だから不採用とか。

        >そもそもなんで偏るのかを考えても良いと思うけど
        統計というのは本質的に偏るものですよ。
        「偏らない方法」は必死で考えるけど、それでもやはり偏りは避けられない。
        偏りがない統計とは、バグのないプログラムのようなものだ。
        誰もが夢見て追い求めるけれど、手に入れた者はいない。

    • by Anonymous Coward

      この手のものに必要なのは人間にとって公平で合理的な説明のつく理由であって公平な結果ではない
      アマゾンは理由のほうをすっとばして、AIでやれば公平な結果が出せるだろうと甘くみていた
      さすがに連中はバカではないから女の数を増やせばそれで公平になるとは考えず、チームを解散させた
      だからもしチームを維持したいのなら「公平で合理的な理由」を履歴書データからAIと共同で抽出することになる

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

処理中...