「病院で使われている診断用プログラムで白人を優遇する傾向が確認される」記事へのコメント

データに残る差別の爪痕

[yume (47405)]

・患者の将来的な重病化・合併症リスクを数値化することで、医療費を適切に配分することが目的。
・人種データは入力されていない。
・しかし、算出されたスコアを見ると、同じスコアでも白人より黒人の方が慢性疾患が多い。
＞ただ人種が違うだけで、同じ疾患の人でリスクスコアが違うのはおかしい。なぜこうなる？

・AIには「より医療費がかかった実績」＝「医療費がかかりやすい人」＝「リスクスコアが高くなる」というアルゴリズムが含まれている
・昔のデータを参照すると、平均的には白人の方が医療費をたくさん使っている
＞このデータを読み取

Re:

[Anonymous Coward]

そもそも「重篤な」という判断をさせるスコアの計算に医療費を使うのがおかしいだけでは。
関係ないでしょ、医療費。
風邪に1億ドル使った大金持ちがいたとして、重篤ってことにはならんし。

Re:データに残る差別の爪痕

[Anonymous Coward]

個別で見ればそういう外れ値もあるけど、全体としては支払い費用と重篤度は比例関係にあるでしょ。これがビッグデータの怖いところで。