病院で使われている診断用プログラムで白人を優遇する傾向が確認される 32
そもそもデータの総数自体も大きく差があるのね 部門より
Anonymous Coward曰く、
病院で使用される診療・分析用コンピュータプログラムで、人種による偏差が出ているという。Science誌に掲載された論文によれば、病気の黒人患者よりも、比較的健康な白人患者を優遇する傾向にあったとされる。このシステムによるデータを人種で比較したところ、同じスコアでも、実際には黒人の方が白人よりも3割近くも病状が重かったそうだ（OneZero、Yahoo!ニュース、Slashdot）。
研究チームが調査対象としたのは、医療保険の「ユナイテッドヘルス」の子会社「オプタム」の判定システム「インパクトプロ」だとしている。調査では、この「インパクトプロ」を導入している医療機関における、プライマリ・ケア（総合診療）の患者の2013~2015年のデータに基づいて、白人4万3,539人と黒人6,079人のスコアと症状の比較を行った。
このプログラムでは、患者が病院の電子健康記録システムに登録されると、その患者に慢性疾患があるかどうか、年齢や以前の医療訪問の請求といったデータをもとに診断を行う。患者が追加医療を必要とすると判断された場合、つまりアルゴリズムで決定されたスコアリスクが97％以上の場合、患者は自動的に追加のケアが必要な側に分類される。
97％以上のハイリスクの患者を見ると、高血圧や糖尿病といった抱えている慢性疾患の数が、黒人の場合は平均で4.8なのに対し、白人の場合は3.8。黒人の方が26％も症状が重かった。そして、スコアリスクが97以上の患者全体に占める黒人の割合は17.7％に過ぎなかったとしている。
偏差が出た原因としては、アルゴリズムは今までに支払った医療費の金額に基づいて患者を分類しているためであるようだ。従来より多くの費用を支払っていた人が優先治療を受けやすいようになっている模様。
そもそも、人種が判断データに含まれていない (スコア:2)
Yahooの方の記事には
とある。
この時点で疑似相関なのは明らかで、じゃあ原因は何かと調べていった結果、過去に支払った治療費だったという話でしょ。
今の学習型AIは因果関係ではなくて相関関係を洗い出すだけだから、まあこういうこともあるよね。
筋道立てて因果関係を推論できるようになれば本格的にシンギュラリティ到達なんだろうけど、現段階ではまだまだ難しそうだなぁ。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
覚えたての用語を使いたい気持ちはわかるが、こういうのは擬似相関とは言わない。
Re: (スコア:0)
誤りを指摘するだけでなく、
正しい表現を教えていただけるとありがたいです。
Re: (スコア:0)
因子分析が足りなかったんでしょうな。
Re: (スコア:0)
自分が正しいと思っている表現を書いてしまったら付け焼き刃がバレるだろ!
パテントトロールは製品が0だから無敵なんだよ!
データに残る差別の爪痕 (スコア:2)
・患者の将来的な重病化・合併症リスクを数値化することで、医療費を適切に配分することが目的。
・人種データは入力されていない。
・しかし、算出されたスコアを見ると、同じスコアでも白人より黒人の方が慢性疾患が多い。
＞ただ人種が違うだけで、同じ疾患の人でリスクスコアが違うのはおかしい。なぜこうなる？
・AIには「より医療費がかかった実績」＝「医療費がかかりやすい人」＝「リスクスコアが高くなる」というアルゴリズムが含まれている
・昔のデータを参照すると、平均的には白人の方が医療費をたくさん使っている
＞このデータを読み取ると、同じ病気でも白人の方が医療費がかかる＝リスクが高い＝リスクスコアも高くなるということになってしまう
しかし、そもそも白人の医療費が高いのは、黒人の方が貧困率が高いからです。医療機関側の差別が医療不信を呼び、結果的に受診数が減るという現実も指摘されています。
純粋なリスクスコアだけを算出してほしいのに、差別が原因で歪んだデータを取り込むことで、AIも差別的な判定を始めてしまう。こういった事例はこの件に関わらず、再犯予測プログラムなどでも同様の問題が指摘されています。
Re: (スコア:0)
そもそも「重篤な」という判断をさせるスコアの計算に医療費を使うのがおかしいだけでは。
関係ないでしょ、医療費。
風邪に1億ドル使った大金持ちがいたとして、重篤ってことにはならんし。
Re: (スコア:0)
個別で見ればそういう外れ値もあるけど、全体としては支払い費用と重篤度は比例関係にあるでしょ。これがビッグデータの怖いところで。
Re: (スコア:0)
医療費が関係ないことはない。
１億ドル払ってる人、１ドル払ってる人が同じ症状なら、１億ドル払ってる人の方がスコア高くなってもおかしくないと思う。
軽い症状なのに大金をつかったのか、大金をつかったから軽い症状なのかは、わからないよ
エビデンスが構築できない日本人 (スコア:2)
そして白人と黒人と特に奴隷貿易で南米北米に送られた黒人（奴隷船で生き延びた子孫）は食塩感受性が高く脳卒中の危険が白人より高いのに、EBMの中枢である北米では虚血性心疾患のEBMは積上げられても脳卒中のEBMは積上げなかったからリスク計算の基礎を築けなかった。計算式を貯める駆動動機が白人と違い、黒人や黄色人種には乏しく、アイランダーや中近東には皆無に近い。
ポリコレ的にややこしい？ (スコア:2)
この結果をフィードバックしてシステムを調整したら、それは正当なのか？差別なのか？逆差別なのか？アファーマティブアクションなのか？
Re: (スコア:0)
治療費期待値算出システムである以上、
何をフィードバックしてもトリアージ的な機能は期待できんよ。
現状このシステムは黒人が医療から遠ざけられているとも言えるけど、
逆に白人からぼったくるシステムになっているとも言える筈だ。
足元を見て適度にぼったくるシステムなので、
白人も黒人も等しく適切な医療は受けらない。
ぼったくりやすい病気ほど重要視するのが自明だからね。
ぼったくり医療で有名なアメリカの病院経営者にとってはこれで良いんだろうけどねぇ……
ここに何らかの人種的バイアスだけ補正しても、ぼったくりは消えず、
稼げない病気は放置され、支払い能力に不相応な医療が提供されるだけだ。
本当に適切な指標がほしいなら、評価基準を変更して最初から作り直すしかないよ。
人種差別ではないのでは (スコア:1)
単に金払いのいい客を優遇してるだけに聞こえる。
明日の命は金で買え。
Re: (スコア:0)
それな!!
Re: (スコア:0)
そんな話なんだよなあ。
別に無償治療を白人優先したわけじゃない。有償なんだ。
高額な追加治療受けたくない人が黒人に多いとしても不思議はあるまいよ。
AIはしょせん選択肢を示すだけなのに、差別だーってね。
Re: (スコア:0)
今回の研究対象は保険対象者なの。
それなのに人種によって過去の支払いに差があるのがヤバくね？ って話なの。
Re: (スコア:0)
日本と違って、個々人で保険の適用範囲が違いますよ。
Re: (スコア:0)
論文ではそんなのは当然考慮してる。
Mechanism of biasのとこに細かい解説がある。
Re: (スコア:0)
× それなのに人種によって過去の支払いに差があるのがヤバくね？
〇 それなのに経済力によって過去の支払いに差があるのがヤバくね？
Re: (スコア:0)
人種差別にならないように人種を入力しなかったら、明確な区別の理由が出てきたわけだ
どこからどうツッコもうか (スコア:0)
> 高血圧や糖尿病といった抱えている慢性疾患の数が、黒人の場合は平均で4.8なのに対し、
> 白人の場合は3.8。黒人の方が26％も症状が重かった。
黒人には「治療した方がいいですよ」、白人には「放っておいていいですよ」と
診断を出す場合、どっちが優遇されてると判断すべきか。
> スコアリスクが97以上の患者全体に占める黒人の割合は17.7％に過ぎなかった
母集団が白人43,539人、黒人6,079人で黒人比率は12.25%。5%差なら誤差かも。
> アルゴリズムは今までに支払った医療費の金額に基づいて患者を分類しているためであるようだ。
白人優遇でもなんでもないじゃん。
＃黒人に向かって「顔色が悪いですね」って言ったのかと思った。
Re: (スコア:0)
その支払った医療費の差が、人種ごとの医療へのアクセスの差から生まれてるんじゃないかってのを問題視してるの。
せめて論文のアブストくらいは読んでくれ。リンクまで張ってあるんだし。
Re: (スコア:0)
だから白人優遇とするのはおかしいだろって話。
金の支払いが人種の違いに出たという話であって白人優遇となってないだろ。
Re: (スコア:0)
このシステムが出した数値をもとに治療の優先度を決めるので軽症な白人を優先して重篤な黒人を後回しにする結果になりますよ。
Re: (スコア:0)
元論文では優遇とか一言も書いてない。そこはスラドの編集者が勝手に付け加えたとこ。
ソース読まない人間は話にならん。
Re: (スコア:0)
差別の結果生じたと思われる格差を元にその格差を固定化する仕組みと解釈可能で問題になる。
なお白人もどうでもいい病気で手厚く看護されて金を毟られるので得をするのは病院だけである。
ボッタクリ支援システムだね。
Re: (スコア:0)
> 人種ごとの医療へのアクセスの差
それが生じていることがこの医療システムと何の関係があるの?
「白人は金持ちになりやすい+金持ち優遇の医療システム」を「白人優遇の医療システム」とするのは典型的な因果と相関の混同じゃん。
Re: (スコア:0)
頼むから論文読んでからコメントしてくれ。
金持ちバイアスを避けるためにどんな工夫がしてあるか書いてあるから。
Re: (スコア:0)
リスクスコアが高い＝被害者という無敵状態
では？
そこは AI でしょ (スコア:0)
オフトピ
アルゴリズムの情報なんかだしてるのがおかしい
AI ならそんなところで突っ込まれる心配はない。ブラックボックスだからね。実際がどうであろうとも。
Re: (スコア:0)
ここで言うアルゴリズムはよく言うAIと何も変わらんよ。
ただの統計とも言う。
その式の構造や内訳が人間可読かどうかなどがちょい違うだけで大差はない。
入力と評価値からなる物なので、
評価値が支払い金銭だったというオチこそが最重要。