Amazonの顔認識技術、カリフォルニア州議員26人の顔を犯罪者と誤判定 38
ストーリー by hylom
活用にはノウハウが必要そう 部門より
活用にはノウハウが必要そう 部門より
Anonymous Coward曰く、
米Amazon.comはクラウド方式で画像や動画の分析サービスを提供しており、これを警察などの米国の法執行機関も使用していることが過去に報じられているが、このたび米国自由人権協会（ACLU）がこのサービスを使って犯罪容疑者の写真とカリフォルニア州議会議員の顔写真を照合させたところ、議員のおよそ20％に相当する26人が容疑者の顔写真にマッチするという結果が出たという。ACLUは、Rekognitionシステムが犯罪者と誤判定した議員全員の写真を集めたPDFも公開している（CNET JAPAN、Los Angeles Times）。
いっぽうAmazon側はこれに対し、ACLUは信頼度の閾値が低い設定でサービスを利用していると批判している。議論となっているサービスでは信頼度の閾値を変更することができ、ACLUはデフォルトの値のままで使用したとのことだが、Amazonはこの閾値を99％に設定することを推奨しているという。
ACLUは昨年にも米国会議員の顔写真を同サービスを使って犯罪容疑者の写真と照合するテストを行い、28人が逮捕歴のある人物と判断されるという結果が出たと発表していた（過去記事）。
なぜ推奨がデフォルトではないのか (スコア:1)
> 議論となっているサービスでは信頼度の閾値を変更することができ、ACLUはデフォルトの値のままで使用したとのことだが、
> Amazonはこの閾値を99％に設定することを推奨しているという。
それなら、デフォルトを99%にしようよ……
Re:なぜ推奨がデフォルトではないのか (スコア:5, すばらしい洞察)
偽陰性を重視するか偽陽性を重視するかじゃないですか
スクリーニングにこれを使用し、他の手段と合わせて詳細なチェックに入っていくなら閾値は低めにするでしょう
これだけつかって「こいつは犯罪者だ!」とか言うなら閾値は高めになるでしょう
Amazonは前者としての使用を推奨してるならデフォルト全社でも全然おかしくないでしょ
「犯罪者と比較して似てるかどうか判断させたら20％が似た犯罪者がいるという判断だった」
ってのを「似てる」を「同一と判定された」と大げさに言ってるニュースに見えるな
Re:なぜ推奨がデフォルトではないのか (スコア:2)
だったら、なぜ「閾値を99％に設定することを推奨している」の？
どっちを重視するかというよりも、端的に矛盾しているという話やろ。
Re:なぜ推奨がデフォルトではないのか (スコア:2)
なぜって「このケースのような用途では閾値を99％に設定していることを推奨している」んでしょ
なんかおかしいかな
# しかし何が99％なんだろう…
Re:なぜ推奨がデフォルトではないのか (スコア:2)
ACLUが次にやるべきは、推奨値でやった時に、ちゃんと犯罪者の顔を識別可能か??の確認
Amazonが次にやるべきは、問題の議員が前科者で無いかの確認
Re: (スコア:0)
妄想だけど、とりあえず悪評立てられたら困るので反論したけど、実際に閾値99％にしたら今度は偽陰性が増えすぎるからデフォルトにはできない、とか。
Re:なぜ推奨がデフォルトではないのか (スコア:1)
妄想だけど、とりあえず悪評立てられたら困るので反論したけど、実際に閾値99％にしたら今度は偽陰性が増えすぎるからデフォルトにはできない、とか。
まぁ、実際そんなことだと思うんだけどね。
デフォルトとは違う推奨値なんてものがあるのが不思議だなぁと思ったんだよ。
Re: (スコア:0)
疑わしきは罰せずという精神にも反するしな。
Re: (スコア:0)
言いたいことは解るが、信頼性の閾値は用途によって異なるもの。
一件でも犯人と誤認しないを条件にするなら、その条件に対してアマゾンの答えている99%の閾値を使うべきでしょう。捜査機関という非素人が使う道具の使い方に対して、専門家からのさほど難しくもない助言を敢えて無視して使った結果をもって、使えない道具だと騒ぐのは一種のクレーマーでしょう。
(アメリカの)通信品位法への反対運動の支援などはまともだと思っていましたが、米国自由人権協会も内部は色々なんでしょうね。
Re: (スコア:0)
捜査機関「も」使ってる。だし、
「使えない道具」と騒いでるわけでもない。
全て「そうに違いない」という思い込みで噛みついてるだけじゃん。
Amazon関係者か何かか？
Re: (スコア:0)
> 捜査機関という非素人
彼らは犯罪捜査のプロであって心理学の学位持ってる訳でも先入観の研究してる訳でもないでしょう。
非素人と考えるのは危険では？
Re: (スコア:0)
メーカーの忠告に耳を傾けず、デフォルトのままで仕事に使って、その結果を吟味もしない。そういう素人さんじゃなくて、捜査＝本業に使う道具なら、個々の道具の細かな原理とか製造方法は知らなくても、もうちょっとそういう道具を丁寧に取り扱うのがプロじゃないかと。
捜査へ導入させたくないから、「出来が悪いので、導入は時期尚早。」そういう結論ありきの調査発表にみえます。
精度が低い？ (スコア:1)
本来はもっとマッチするはずなのに、20%しか合わなかったってこと？
米Amazon.comはクラウド方式で画像や動画の分析サービスを提供しており、これを警察などの米国の法執行機関も使用していることが過去に報じられているが、このたび米国自由人権協会（ACLU）がこのサービスを使って犯罪容疑者の写真とカリフォルニア州議会議員の顔写真を照合させたところ、議員のおよそ20％に相当する26人が容疑者の顔写真にマッチするという結果が出たという。
Re:精度が低い？ (スコア:3, おもしろおかしい)
議員なんて8割くらいは何かしら後ろ暗いことしてるはずだ！
Re:精度が低い？ (スコア:1)
どこぞの国では首相か大統領以下虚偽の塊・・・
Re: (スコア:0)
せやなホジホジ
Re: (スコア:0)
2割もの議員がまともな自治体or国があったら教えてください!!
Re: (スコア:0)
北センチネル島かな？
Re: (スコア:0)
ぱっと見、似たような顔なんじゃね？
信頼度を上げると比較する箇所が増えたりして、一致しなくなると。
もしや・・・ (スコア:0)
浮気している人をあぶり出した可能性も。
５人に１人なら納得できる数字。
Re: (スコア:0)
フランス人「気にしない気にしない」
Re: (スコア:0)
一休み、一休み
本当に (スコア:0)
誤判定？
Re: (スコア:0)
未来を予測した可能性も。
Re: (スコア:0)
公開したって言ってるから、もし本当に容疑者本人ならもう議員辞めろって話になってるやろ。
ないってことは判定が誤だったんだ。
Re: (スコア:0)
まあターゲットの容疑者では無いとのお話だから。
AIで犯罪傾向のある人間を判断するってのではなく、容疑者とのマッチングだからそこは正しいんじゃないかな。
でも、こいういうのってコレだけで判断する訳でも無いのだから、単体の判断自体が少々おろそかでも、容疑者の取り逃がしが無ければそれ自体は良い筈。
人間が人海戦術でやるよりも手間が減ってくれれば良いのだから。
ただまあ、この情況では容疑者自身を取り逃がす可能性すら有り得そうにも思えるが。
米国自由人権協会 (スコア:0)
が使ったらそうなったと言うだけだな。
だいたい人権団体とかいうのは被害者より犯罪者（以下削除
Re: (スコア:0)
日本とアメリカを一緒にしちゃ駄目。
曲がりなりにも臣民として平等な権利があり昭和3年には(男子)普通選挙もあった日本と、1964年まで(米国民の)黒人に公民権差別があった米国は、人権に関する危機意識が違う。
民族・人種構成も全然違うし。
Re: (スコア:0)
尺とメートル並べるようなことしないで
Re: (スコア:0)
そうだそうだ。
女性が戸主となった途端に、選挙権を戸主から男性限定に大急ぎで変えるような、
想像力が全くないバカな役人が牛耳ってた国と一緒にするなー！
日本は女性に選挙権を「与えない」ことが目的なんだから、最初から法律で女性には参政権を与えない、
と規定すれば問題は無かった。
さらに言うと、臣民として平等だから男性のみ普通選挙に参加できたと。つまり女性は臣民じゃないってこった。
あんたは少なくともそう主張している。それをもって、黒人を排除するアメリカを責めるのはどうよ。
Re: (スコア:0)
そういう人々のお陰で、貴方は自由を謳歌出来て居るのですけどね。
関連 (スコア:0)
顔認識システム、百万人の顔データベースに大苦戦
https://jp.techcrunch.com/2016/06/24/20160623facial-recognition-system... [techcrunch.com]
> しかし最新の研究によると、最高のアルゴリズムでも、百万人以上の顔を区別するとなると絶対確実からはほど遠いようだ。
今はどれだけ改善したんでしょうかね
Re: (スコア:0)
それ以前にゴリラと人間の区別はつくようになったんですかね？
顔判定の意義 (スコア:0)
米国自由人権協会（ACLU）の問題意識がどこにあるのかよく分からないが、仮に人間がこれと同等の条件で顔判定をしたらこれより高い精度になるのかしら・・・。
顔の類似性だけで判定するのなら、犯罪を犯していない人でも犯罪者の顔に似ている人は少なくも無いのでは？
彼らがもし「低い閾値設定で冤罪云々・・・」というのなら、それは「人殺しに使えるから刃物の使用はいかなる場合でも悪である」と言うのに近いよなぁ。
わざと (スコア:0)
これデフォルトで99％じゃないってことはアマゾンは何かの意図があってやっている
Re: (スコア:0)
その臭い口を開く前に、「犯罪者と誤判定した議員全員の写真を集めたPDF」を見てみれば？