パスワードを忘れた? アカウント作成
14036538 story
人工知能

病院で使われている診断用プログラムで白人を優遇する傾向が確認される 32

ストーリー by hylom
そもそもデータの総数自体も大きく差があるのね 部門より

Anonymous Coward曰く、

病院で使用される診療・分析用コンピュータプログラムで、人種による偏差が出ているという。Science誌に掲載された論文によれば、病気の黒人患者よりも、比較的健康な白人患者を優遇する傾向にあったとされる。このシステムによるデータを人種で比較したところ、同じスコアでも、実際には黒人の方が白人よりも3割近くも病状が重かったそうだ(OneZeroYahoo!ニュースSlashdot)。

研究チームが調査対象としたのは、医療保険の「ユナイテッドヘルス」の子会社「オプタム」の判定システム「インパクトプロ」だとしている。調査では、この「インパクトプロ」を導入している医療機関における、プライマリ・ケア(総合診療)の患者の2013~2015年のデータに基づいて、白人4万3,539人と黒人6,079人のスコアと症状の比較を行った。

このプログラムでは、患者が病院の電子健康記録システムに登録されると、その患者に慢性疾患があるかどうか、年齢や以前の医療訪問の請求といったデータをもとに診断を行う。患者が追加医療を必要とすると判断された場合、つまりアルゴリズムで決定されたスコアリスクが97%以上の場合、患者は自動的に追加のケアが必要な側に分類される。

97%以上のハイリスクの患者を見ると、高血圧や糖尿病といった抱えている慢性疾患の数が、黒人の場合は平均で4.8なのに対し、白人の場合は3.8。黒人の方が26%も症状が重かった。そして、スコアリスクが97以上の患者全体に占める黒人の割合は17.7%に過ぎなかったとしている。

偏差が出た原因としては、アルゴリズムは今までに支払った医療費の金額に基づいて患者を分類しているためであるようだ。従来より多くの費用を支払っていた人が優先治療を受けやすいようになっている模様。

  •  Yahooの方の記事には

    この判定アルゴリズムには、「人種」の項目は入っていなかった。

     とある。

     この時点で疑似相関なのは明らかで、じゃあ原因は何かと調べていった結果、過去に支払った治療費だったという話でしょ。

     今の学習型AIは因果関係ではなくて相関関係を洗い出すだけだから、まあこういうこともあるよね。
     筋道立てて因果関係を推論できるようになれば本格的にシンギュラリティ到達なんだろうけど、現段階ではまだまだ難しそうだなぁ。

    ここに返信
    • by Anonymous Coward

      覚えたての用語を使いたい気持ちはわかるが、こういうのは擬似相関とは言わない。

      • by Anonymous Coward

        誤りを指摘するだけでなく、
        正しい表現を教えていただけるとありがたいです。

        • by Anonymous Coward

          因子分析が足りなかったんでしょうな。

        • by Anonymous Coward

          自分が正しいと思っている表現を書いてしまったら付け焼き刃がバレるだろ!
          パテントトロールは製品が0だから無敵なんだよ!

  • ・患者の将来的な重病化・合併症リスクを数値化することで、医療費を適切に配分することが目的。
    ・人種データは入力されていない。
    ・しかし、算出されたスコアを見ると、同じスコアでも白人より黒人の方が慢性疾患が多い。
    >ただ人種が違うだけで、同じ疾患の人でリスクスコアが違うのはおかしい。なぜこうなる?

    ・AIには「より医療費がかかった実績」=「医療費がかかりやすい人」=「リスクスコアが高くなる」というアルゴリズムが含まれている
    ・昔のデータを参照すると、平均的には白人の方が医療費をたくさん使っている
    >このデータを読み取ると、同じ病気でも白人の方が医療費がかかる=リスクが高い=リスクスコアも高くなるということになってしまう

    しかし、そもそも白人の医療費が高いのは、黒人の方が貧困率が高いからです。医療機関側の差別が医療不信を呼び、結果的に受診数が減るという現実も指摘されています。

    純粋なリスクスコアだけを算出してほしいのに、差別が原因で歪んだデータを取り込むことで、AIも差別的な判定を始めてしまう。こういった事例はこの件に関わらず、再犯予測プログラムなどでも同様の問題が指摘されています。

    ここに返信
    • by Anonymous Coward

      そもそも「重篤な」という判断をさせるスコアの計算に医療費を使うのがおかしいだけでは。
      関係ないでしょ、医療費。
      風邪に1億ドル使った大金持ちがいたとして、重篤ってことにはならんし。

      • by Anonymous Coward

        個別で見ればそういう外れ値もあるけど、全体としては支払い費用と重篤度は比例関係にあるでしょ。これがビッグデータの怖いところで。

      • by Anonymous Coward

        医療費が関係ないことはない。
        1億ドル払ってる人、1ドル払ってる人が同じ症状なら、1億ドル払ってる人の方がスコア高くなってもおかしくないと思う。
        軽い症状なのに大金をつかったのか、大金をつかったから軽い症状なのかは、わからないよ

  • J-DOIT3 [jdoit3.jp]は日本人の糖尿病患者のEBMですが、あまりにも白人に較べて、「人種差」「国民皆保険」などの背景が違い過ぎて、「治療の有意差」を出せなかったです。同じ東大の山田vs門脇の叩き合いというのもなんだけど山田のJDCSよりも門脇のJ-DOIT3の方が事故率が圧倒的に低すぎて=つまり標準治療の質が上がり過ぎて、検出感度から逆算したサンプル数=実験計画が無効化されて論文に成れない=有意差を謳えない、結果に終わりました。
    そして白人と黒人と特に奴隷貿易で南米北米に送られた黒人(奴隷船で生き延びた子孫)は食塩感受性が高く脳卒中の危険が白人より高いのに、EBMの中枢である北米では虚血性心疾患のEBMは積上げられても脳卒中のEBMは積上げなかったからリスク計算の基礎を築けなかった。計算式を貯める駆動動機が白人と違い、黒人や黄色人種には乏しく、アイランダーや中近東には皆無に近い。
    ここに返信
  • この結果をフィードバックしてシステムを調整したら、それは正当なのか?差別なのか?逆差別なのか?アファーマティブアクションなのか?

    ここに返信
    • by Anonymous Coward

      治療費期待値算出システムである以上、
      何をフィードバックしてもトリアージ的な機能は期待できんよ。
      現状このシステムは黒人が医療から遠ざけられているとも言えるけど、
      逆に白人からぼったくるシステムになっているとも言える筈だ。
      足元を見て適度にぼったくるシステムなので、
      白人も黒人も等しく適切な医療は受けらない。
      ぼったくりやすい病気ほど重要視するのが自明だからね。
      ぼったくり医療で有名なアメリカの病院経営者にとってはこれで良いんだろうけどねぇ……

      ここに何らかの人種的バイアスだけ補正しても、ぼったくりは消えず、
      稼げない病気は放置され、支払い能力に不相応な医療が提供されるだけだ。

      本当に適切な指標がほしいなら、評価基準を変更して最初から作り直すしかないよ。

  • by Anonymous Coward on 2019年11月01日 16時48分 (#3709724)

    単に金払いのいい客を優遇してるだけに聞こえる。
    明日の命は金で買え。

    ここに返信
    • by Anonymous Coward

      それな!!

    • by Anonymous Coward

      そんな話なんだよなあ。
      別に無償治療を白人優先したわけじゃない。有償なんだ。

      高額な追加治療受けたくない人が黒人に多いとしても不思議はあるまいよ。
      AIはしょせん選択肢を示すだけなのに、差別だーってね。

    • by Anonymous Coward

      今回の研究対象は保険対象者なの。
      それなのに人種によって過去の支払いに差があるのがヤバくね? って話なの。

      • by Anonymous Coward

        日本と違って、個々人で保険の適用範囲が違いますよ。

        • by Anonymous Coward

          論文ではそんなのは当然考慮してる。
          Mechanism of biasのとこに細かい解説がある。

      • by Anonymous Coward

        × それなのに人種によって過去の支払いに差があるのがヤバくね?
        〇 それなのに経済力によって過去の支払いに差があるのがヤバくね?

    • by Anonymous Coward

      人種差別にならないように人種を入力しなかったら、明確な区別の理由が出てきたわけだ

  • by Anonymous Coward on 2019年11月01日 16時49分 (#3709725)

    > 高血圧や糖尿病といった抱えている慢性疾患の数が、黒人の場合は平均で4.8なのに対し、
    > 白人の場合は3.8。黒人の方が26%も症状が重かった。

    黒人には「治療した方がいいですよ」、白人には「放っておいていいですよ」と
    診断を出す場合、どっちが優遇されてると判断すべきか。

    > スコアリスクが97以上の患者全体に占める黒人の割合は17.7%に過ぎなかった

    母集団が白人43,539人、黒人6,079人で黒人比率は12.25%。5%差なら誤差かも。

    > アルゴリズムは今までに支払った医療費の金額に基づいて患者を分類しているためであるようだ。

    白人優遇でもなんでもないじゃん。

    #黒人に向かって「顔色が悪いですね」って言ったのかと思った。

    ここに返信
    • by Anonymous Coward

      その支払った医療費の差が、人種ごとの医療へのアクセスの差から生まれてるんじゃないかってのを問題視してるの。
      せめて論文のアブストくらいは読んでくれ。リンクまで張ってあるんだし。

      • by Anonymous Coward

        だから白人優遇とするのはおかしいだろって話。
        金の支払いが人種の違いに出たという話であって白人優遇となってないだろ。

        • by Anonymous Coward

          このシステムが出した数値をもとに治療の優先度を決めるので軽症な白人を優先して重篤な黒人を後回しにする結果になりますよ。

        • by Anonymous Coward

          元論文では優遇とか一言も書いてない。そこはスラドの編集者が勝手に付け加えたとこ。
          ソース読まない人間は話にならん。

        • by Anonymous Coward

          差別の結果生じたと思われる格差を元にその格差を固定化する仕組みと解釈可能で問題になる。
          なお白人もどうでもいい病気で手厚く看護されて金を毟られるので得をするのは病院だけである。
          ボッタクリ支援システムだね。

      • by Anonymous Coward

        > 人種ごとの医療へのアクセスの差

        それが生じていることがこの医療システムと何の関係があるの?
        「白人は金持ちになりやすい+金持ち優遇の医療システム」を「白人優遇の医療システム」とするのは典型的な因果と相関の混同じゃん。

        • by Anonymous Coward

          頼むから論文読んでからコメントしてくれ。
          金持ちバイアスを避けるためにどんな工夫がしてあるか書いてあるから。

  • by Anonymous Coward on 2019年11月03日 8時53分 (#3710222)

    オフトピ

    偏差が出た原因としては、アルゴリズムは

    アルゴリズムの情報なんかだしてるのがおかしい

    AI ならそんなところで突っ込まれる心配はない。ブラックボックスだからね。実際がどうであろうとも。

    ここに返信
    • by Anonymous Coward

      ここで言うアルゴリズムはよく言うAIと何も変わらんよ。
      ただの統計とも言う。
      その式の構造や内訳が人間可読かどうかなどがちょい違うだけで大差はない。

      入力と評価値からなる物なので、
      評価値が支払い金銭だったというオチこそが最重要。

typodupeerror

あと、僕は馬鹿なことをするのは嫌いですよ (わざとやるとき以外は)。-- Larry Wall

読み込み中...