パスワードを忘れた? アカウント作成
13984288 story
テクノロジー

Amazonの顔認識技術、カリフォルニア州議員26人の顔を犯罪者と誤判定 38

ストーリー by hylom
活用にはノウハウが必要そう 部門より

Anonymous Coward曰く、

米Amazon.comはクラウド方式で画像や動画の分析サービスを提供しており、これを警察などの米国の法執行機関も使用していることが過去に報じられているが、このたび米国自由人権協会(ACLU)がこのサービスを使って犯罪容疑者の写真とカリフォルニア州議会議員の顔写真を照合させたところ、議員のおよそ20%に相当する26人が容疑者の顔写真にマッチするという結果が出たという。ACLUは、Rekognitionシステムが犯罪者と誤判定した議員全員の写真を集めたPDFも公開している(CNET JAPANLos Angeles Times)。

いっぽうAmazon側はこれに対し、ACLUは信頼度の閾値が低い設定でサービスを利用していると批判している。議論となっているサービスでは信頼度の閾値を変更することができ、ACLUはデフォルトの値のままで使用したとのことだが、Amazonはこの閾値を99%に設定することを推奨しているという。

ACLUは昨年にも米国会議員の顔写真を同サービスを使って犯罪容疑者の写真と照合するテストを行い、28人が逮捕歴のある人物と判断されるという結果が出たと発表していた(過去記事)。

  • > 議論となっているサービスでは信頼度の閾値を変更することができ、ACLUはデフォルトの値のままで使用したとのことだが、
    > Amazonはこの閾値を99%に設定することを推奨しているという。

    それなら、デフォルトを99%にしようよ……

    ここに返信
    • by nnnhhh (47970) on 2019年08月19日 16時18分 (#3671369) 日記

      偽陰性を重視するか偽陽性を重視するかじゃないですか

      スクリーニングにこれを使用し、他の手段と合わせて詳細なチェックに入っていくなら閾値は低めにするでしょう
      これだけつかって「こいつは犯罪者だ!」とか言うなら閾値は高めになるでしょう

      Amazonは前者としての使用を推奨してるならデフォルト全社でも全然おかしくないでしょ

      「犯罪者と比較して似てるかどうか判断させたら20%が似た犯罪者がいるという判断だった」
      ってのを「似てる」を「同一と判定された」と大げさに言ってるニュースに見えるな

    • ACLUが次にやるべきは、推奨値でやった時に、ちゃんと犯罪者の顔を識別可能か??の確認

      Amazonが次にやるべきは、問題の議員が前科者で無いかの確認

    • by Anonymous Coward

      妄想だけど、とりあえず悪評立てられたら困るので反論したけど、実際に閾値99%にしたら今度は偽陰性が増えすぎるからデフォルトにはできない、とか。

    • by Anonymous Coward

      疑わしきは罰せずという精神にも反するしな。

    • by Anonymous Coward

      言いたいことは解るが、信頼性の閾値は用途によって異なるもの。

      一件でも犯人と誤認しないを条件にするなら、その条件に対してアマゾンの答えている99%の閾値を使うべきでしょう。捜査機関という非素人が使う道具の使い方に対して、専門家からのさほど難しくもない助言を敢えて無視して使った結果をもって、使えない道具だと騒ぐのは一種のクレーマーでしょう。

      (アメリカの)通信品位法への反対運動の支援などはまともだと思っていましたが、米国自由人権協会も内部は色々なんでしょうね。

      • by Anonymous Coward

        捜査機関「も」使ってる。だし、
        「使えない道具」と騒いでるわけでもない。
        全て「そうに違いない」という思い込みで噛みついてるだけじゃん。

        Amazon関係者か何かか?

      • by Anonymous Coward

        > 捜査機関という非素人

        彼らは犯罪捜査のプロであって心理学の学位持ってる訳でも先入観の研究してる訳でもないでしょう。
        非素人と考えるのは危険では?

        • by Anonymous Coward

          メーカーの忠告に耳を傾けず、デフォルトのままで仕事に使って、その結果を吟味もしない。そういう素人さんじゃなくて、捜査=本業に使う道具なら、個々の道具の細かな原理とか製造方法は知らなくても、もうちょっとそういう道具を丁寧に取り扱うのがプロじゃないかと。

          捜査へ導入させたくないから、「出来が悪いので、導入は時期尚早。」そういう結論ありきの調査発表にみえます。

  • by nemui4 (20313) on 2019年08月19日 14時56分 (#3671315) 日記

    本来はもっとマッチするはずなのに、20%しか合わなかったってこと?

    米Amazon.comはクラウド方式で画像や動画の分析サービスを提供しており、これを警察などの米国の法執行機関も使用していることが過去に報じられているが、このたび米国自由人権協会(ACLU)がこのサービスを使って犯罪容疑者の写真とカリフォルニア州議会議員の顔写真を照合させたところ、議員のおよそ20%に相当する26人が容疑者の顔写真にマッチするという結果が出たという。

    ここに返信
  • by Anonymous Coward on 2019年08月19日 15時31分 (#3671341)

    浮気している人をあぶり出した可能性も。
    5人に1人なら納得できる数字。

    ここに返信
    • by Anonymous Coward

      フランス人「気にしない気にしない」

  • by Anonymous Coward on 2019年08月19日 16時29分 (#3671382)

    誤判定?

    ここに返信
    • by Anonymous Coward

      未来を予測した可能性も。

    • by Anonymous Coward

      公開したって言ってるから、もし本当に容疑者本人ならもう議員辞めろって話になってるやろ。
      ないってことは判定が誤だったんだ。

    • by Anonymous Coward

      まあターゲットの容疑者では無いとのお話だから。
      AIで犯罪傾向のある人間を判断するってのではなく、容疑者とのマッチングだからそこは正しいんじゃないかな。
      でも、こいういうのってコレだけで判断する訳でも無いのだから、単体の判断自体が少々おろそかでも、容疑者の取り逃がしが無ければそれ自体は良い筈。
      人間が人海戦術でやるよりも手間が減ってくれれば良いのだから。
      ただまあ、この情況では容疑者自身を取り逃がす可能性すら有り得そうにも思えるが。

  • by Anonymous Coward on 2019年08月19日 17時01分 (#3671407)

    が使ったらそうなったと言うだけだな。
    だいたい人権団体とかいうのは被害者より犯罪者(以下削除

    ここに返信
    • by Anonymous Coward

      日本とアメリカを一緒にしちゃ駄目。
      曲がりなりにも臣民として平等な権利があり昭和3年には(男子)普通選挙もあった日本と、1964年まで(米国民の)黒人に公民権差別があった米国は、人権に関する危機意識が違う。
      民族・人種構成も全然違うし。

      • by Anonymous Coward

        尺とメートル並べるようなことしないで

      • by Anonymous Coward

        そうだそうだ。
        女性が戸主となった途端に、選挙権を戸主から男性限定に大急ぎで変えるような、
        想像力が全くないバカな役人が牛耳ってた国と一緒にするなー!

        日本は女性に選挙権を「与えない」ことが目的なんだから、最初から法律で女性には参政権を与えない、
        と規定すれば問題は無かった。

        さらに言うと、臣民として平等だから男性のみ普通選挙に参加できたと。つまり女性は臣民じゃないってこった。
        あんたは少なくともそう主張している。それをもって、黒人を排除するアメリカを責めるのはどうよ。

    • by Anonymous Coward

      そういう人々のお陰で、貴方は自由を謳歌出来て居るのですけどね。

  • by Anonymous Coward on 2019年08月19日 21時13分 (#3671574)

    顔認識システム、百万人の顔データベースに大苦戦
    https://jp.techcrunch.com/2016/06/24/20160623facial-recognition-system... [techcrunch.com]
    > しかし最新の研究によると、最高のアルゴリズムでも、百万人以上の顔を区別するとなると絶対確実からはほど遠いようだ。

    今はどれだけ改善したんでしょうかね

    ここに返信
    • by Anonymous Coward

      それ以前にゴリラと人間の区別はつくようになったんですかね?

  • by Anonymous Coward on 2019年08月20日 12時52分 (#3671958)

    米国自由人権協会(ACLU)の問題意識がどこにあるのかよく分からないが、仮に人間がこれと同等の条件で顔判定をしたらこれより高い精度になるのかしら・・・。

    顔の類似性だけで判定するのなら、犯罪を犯していない人でも犯罪者の顔に似ている人は少なくも無いのでは?

    彼らがもし「低い閾値設定で冤罪云々・・・」というのなら、それは「人殺しに使えるから刃物の使用はいかなる場合でも悪である」と言うのに近いよなぁ。

    ここに返信
  • by Anonymous Coward on 2019年08月23日 1時36分 (#3673854)

    これデフォルトで99%じゃないってことはアマゾンは何かの意図があってやっている

    ここに返信
typodupeerror

アレゲは一日にしてならず -- アレゲ見習い

読み込み中...