「画像生成AI『DALL·E 2』、データセットの偏りを補正するための単純なハック実施」記事へのコメント

つまり多様性とは

[Anonymous Coward]

多様性とは最適解では無いって事？

Re:つまり多様性とは

[Anonymous Coward]

初期のAIで貸し付けの与信を行うと白人には低金利、黒人には高金利を出してきたという例があります。
AIの判断は過去の例からの学習に基づくものでした。
その後調整されたのですが、調整の結果、貸倒れしにくいと予測される人の金利は以前より高くなり、貸倒しやすい人の金利は安くなったということになります。確かにそこだけ見れば最適解ではないかもしれませんね。
調整の結果、多様性がある社会になったということで社会の安定という別の目的関数の値が大きくなったのかもしれません。

#こうすると「すべての人に同じ金利で」という流れになっていく気もしますが、今のところそういう感じではないですね。