アカウント名:
パスワード:
サーバーが、コーヒーサーバーやウォーターサーバーや、給仕や、テニス他でサービス打つ人でもないのは、AIエンジニアが学習させたから? 偏向教育?
AIに「成功者」の絵を描かせるとスーツを着た白人男性の絵を描くし「テロリスト」の絵を描かせると髭のあるアラブ系男性の絵を描く。
AIは現実にある偏見や先入観や差別を無批判に拾ってしまうのである。倫理観がないので。
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
人、それを偏見という
AIにクレジットカードの与信をさせると同じ年収でも女性のほうが与信額は低くなる（現状がそうだから）AIにエンジニア職の応募履歴書の評価をさせると女性の点が低くなる（現状がそうだから）
前述のようにAIは現実にある差別や偏見を無批判に拾ってしまうのだが、その差別や偏見に気付けるAIが必要なのではないか
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
サーバー (スコア:0)
サーバーが、コーヒーサーバーやウォーターサーバーや、給仕や、テニス他でサービス打つ人でもないのは、
AIエンジニアが学習させたから? 偏向教育?
AIは現実にある偏見を踏襲する (スコア:3)
AIに「成功者」の絵を描かせるとスーツを着た白人男性の絵を描くし
「テロリスト」の絵を描かせると髭のあるアラブ系男性の絵を描く。
AIは現実にある偏見や先入観や差別を無批判に拾ってしまうのである。倫理観がないので。
Re: (スコア:0)
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
Re:AIは現実にある偏見を踏襲する (スコア:3)
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
人、それを偏見という
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
AIにクレジットカードの与信をさせると同じ年収でも女性のほうが与信額は低くなる（現状がそうだから）
AIにエンジニア職の応募履歴書の評価をさせると女性の点が低くなる（現状がそうだから）
前述のようにAIは現実にある差別や偏見を無批判に拾ってしまうのだが、その差別や偏見に気付けるAIが必要なのではないか