イギリス警察、AIを使って犯罪を犯す可能性のある人に「危険スコア」を付けるシステムをテスト運用 114
ストーリー by hylom
どうすればスコアを下げられるのか 部門より
どうすればスコアを下げられるのか 部門より
あるAnonymous Coward曰く、
イギリス警察が、犯罪を予測するAIをテスト運用しているという（ギズモード、Sputnik）。
コンピュータによる犯罪予測については以前から研究が進められており、2010年には『米フロリダ州、「犯罪予測システム」導入へ』という話題もあった。日本でも京都府警や神奈川県警が興味を示している。
今回イギリス警察が導入するシステムは、犯罪データベースや個人情報データベースから情報を収集し、「1400種の指標」から犯罪を犯す可能性がある人に対し「将来的に犯罪を犯す可能性」（危険スコア）を付けるという。
ディストピアかユートピアか (スコア:5, 興味深い)
これ、どう見てもディストピアなんですが
唯一ユートピアにつながる可能性もあって、
この「犯罪の可能性」ってのが属人的なものでなく「環境要因」のみで
決定されるなら、そのわずかな可能性が見えてくるんですよ。
つまり「犯罪者の息子」「怒りっぽい」でなく
「犯罪の多い地域に住んでいる」「友人にギャングがいる」
などの環境スコアを計算して出すってことです。
それなら、そういった環境スコアを減らす対策を当局が取ることで
全体的な犯罪率を下げることができるでしょう。
こういった環境要因の分析はたとえば銃犯罪の統計などで
研究がなされており、たとえば「自宅に銃がある」と銃を用いた犯罪に
手を染める確率は高くなります。まあ当然っちゃあ当然ですが。
それでも「元々持ってる銃を使う」という傾向がわかれば
「銃の違法売人」を締め上げても全体の犯罪数抑制はあまり効果がないってことは
わかるわけです。
ただし難しいのは何が環境かってことで
「家庭が貧困である」なんてのは一見、環境要因でもあるように見えますし
ただの偏見であるようにも思えます。
実際は、貧困によって十分な教育が受けられなかったり
貧困そのものでなく他の隠れた要因が影響を与えるはずなのですが、
そのあたりの要因の特定が難しいのはこの手の分析でよくあることです。
ですので正しく運用できれば社会的に良いものになるかもしれないが
ほぼ確実に運用を間違ってディストピアになる可能性が
あまりにも高い、と個人的には思わざるを得ませんね。
このイギリスの件もgizmodoの説明を読む限りは、間違った偏見をベースに
開発してそうで怖いですよ・・・。
Re:ディストピアかユートピアか (スコア:1)
こういうの見ると、政府の基本７原則 [srad.jp]は大切だなと。
１．AIは人間の基本的人権を侵さない
６．企業に決定過程の説明責任
この両者が、イギリスでもちゃんと確保できるんですかね。
初期は慎重でも、過信して「理由が解らないけど、AI様が仰るので」とかいった逮捕が起きる未来しか見えない。
Re: (スコア:0)
「割れ窓」って奴ですね？
Re:ディストピアかユートピアか (スコア:1)
今まで経験則的にやってたのをシステム化する感じなのかな。
このシステムの結果を単なるリファレンスの一つとするなら良いけど、このスコアを絶対とされたらという不安。
Re: (スコア:0)
日本でも「顔の揺れ方で不審者を割り出す」とか言い出してるんで、オカルトとの垣根は限りなく低くなってるね。偏見でもAIって言い張れば通る「営業」本位の考え方。官公庁がこういう似非科学に税金を浪費するんじゃないかと思うと気が気じゃない。
Re: (スコア:0)
相関はあっても因果はない場合の方が多くて、結局役に立たないってなりそう
Re:ディストピアかユートピアか (スコア:5, すばらしい洞察)
人は客観的に見るのは難しいが、他の意見から偏見を読み取るのはやりやすいので、こういう条件だったらこう思われやすい、という数値としてみれれば役にたつかも。
昨日雨の中子猫を助けていたので実は良い人の可能性が高い、とか
Re:ディストピアかユートピアか (スコア:1)
不良が子猫を助ける
DV夫がたまに優しくする
と、心理学的な効果（なんか名前ついてたはず）で、常に優しい人より優しい人に感じる、みたいなのありますが
AIが淡々と評価したらそういう偏見がなくなるかもしれない
一方、AIの評価と人間の評価が乖離して、AIが非難されるかもしれないし、補正付きAIが主流になるかもしれない
Re: (スコア:0)
不良やヤクザが実は良い人理論
こういう人たちがちょっといい事したら大幅に犯罪係数が下がったりして。
Re: (スコア:0)
Re:ディストピアかユートピアか (スコア:2)
全くそう思う
相関と因果を混同してるのは誰やねんって感じ
Re: (スコア:0)
「前科者やブラクと付き合うのはやめなさい」、ユートピアだなあ…。
Re:ディストピアかユートピアか (スコア:2)
「娑婆に戻った後は、ムショ内で出会ったヤツ以外の知合いを作れ」と言うとマトモに聞こえる
Re:ディストピアかユートピアか (スコア:3)
当然です
自分達がやってる「脱税」や「汚職」を合法化するのが不可能では無い立場の人達ですから
Re:ディストピアかユートピアか (スコア:3)
> 家庭が貧困ってのは十分に犯罪の可能性を上げる要因
それはよくある誤謬です。典型的な偏見なんですよ。
理由は後述します。
> なぜそこは違う扱いにしようとする？
なぜって言われても、そういう統計結果があるからですよ。
事実、違うからです。としか言いようがありません。
これこそまさに、統計の分析の難しさなのですが、
一見正しいように見えて正しくない、偏見の典型例として
「大きすぎる名詞」というのがあります。
たとえば黒人は犯罪率が高い、というのは偏見です。
なぜなら「黒人全体」は大きすぎる名詞だからです。
少なくとも「アメリカ在住の」黒人であるとか、
「アメリカの荒れた地域の」黒人であるとか、実際に相関が表れるのは
もっと限定した場合に限らないといけません。
そして「アメリカの荒れた地域の」白人は、実は同じ地域の黒人同様に
犯罪率が高いので、人種の違いは実は影響しておらず・・・
ただ貧困地域の白人の総数が少ないから目立たないだけ、という事実を知ると
「黒人は犯罪率が高い」というのが偏見であることがわかるんです。
で、貧困というのもやはり大きすぎる名詞なのです。
同じ貧困家庭でも、親が病気だから貧困な家庭と
親が無職で酒ばかり飲んでいる家庭とで子供の犯罪相関率は大きく異なるからです。
名詞を小さくする、つまり細かく属性を分けることで、
貧困というのはただの結果であり、
裏になにか隠れた真の要因があり、
それが貧困や犯罪という結果に影響していると分かるのですよ。
そういう結果と原因の取り違えがしばしば（専門の学者の間においても）
起こり得るので統計の分析っていうのは難しいのです。
Re:ディストピアかユートピアか (スコア:2)
相関関係と因果関係の区別が出来ないから、でしょうねぇ
PSYCHO-PASSの世界に近づいてきた (スコア:1)
今は犯罪があったときの容疑者候補ぐらに使うのだろうが、未来にはいつか犯罪をする人間として
更生プログラムを強制的に受けさせるとかになったらなんだか怖いな
Re: (スコア:0)
＞「将来的に犯罪を犯す可能性」（危険スコア）を付けるという
だから、
まさしく潜在犯だよ。
Re: (スコア:0)
だけど現状は危険スコアが高いから（何もおきてなくても）拘束するとかではなく、
何かあったときに真っ先に疑われるってレベルだろう・・・ってことでしょう。
これが前者になったらさらにヤバイな、ってのが元コメ。
Re:PSYCHO-PASSの世界に近づいてきた (スコア:2)
スコアが高い人にはカウンセリングするって言ってるんだからほとんどそこまで言ってんじゃないの
しかしまぁ今んところ町の不良におっさんが説教するぐらいの話じゃろ
自分が高スコアつけられたなら、どこがスコア高い原因なのかも含めて教えてほしいわ
Re:PSYCHO-PASSの世界に近づいてきた (スコア:3)
非常にありそうな話ではある
「ありそうな話」ではあるが、最初は手紙で呼び出しとかだろうし、
警察が来たぐらいでそこまで噂になるのが普通か?っていうとどうかなぁ
後付や感想でいくらでも言えそうな「ありそうな話」な気もしないでもない
そもそも仮に結果犯罪に手を染めたとしてもカウンセリングが無けりゃ染めなかったといえるかっていうとどーなんじゃろ。
犯罪をやめる人より促進される人のほうが少なければ良いんだよと言う見方もあるかもしれんしな
しかしこれカウンセリングで救われる人が多く、犯罪率が激減したりすると
カウンセリングに効果があるのかカウンセリング対象の選択がまずいのかどうかわかんなくなっちゃうなぁ
虐待児童の保護とかに使うと効果がわかりやすくていいかもわからん
でもこれもきっと「虐待を疑われて傷付いた」とか言う人が続出すんだろうなぁ
保健婦が全家庭を廻ってる様に警官も全家庭廻れば噂が立つ系については対処になるか?
Re:PSYCHO-PASSの世界に近づいてきた (スコア:2)
> しかしこれカウンセリングで救われる人が多く、犯罪率が激減したりすると
> カウンセリングに効果があるのかカウンセリング対象の選択がまずいのかどうかわかんなくなっちゃうなぁ
警察の防犯カウンセラーが
・完全にランダムに選ばれた相手に訪問に行く地域
・AIが必要と判断した相手を訪問しに行く地域
とかに分けて軽減率を測定すれば判別可能？
# 民主主義国では実に実施しにくそうだ。
Re: (スコア:0)
でその属性の犯罪履歴が多くなって更にデータが偏っていく予感
Re: (スコア:0)
うう。マイノリティ・レポートの立場は…予想するのはAIじゃないけど。
Re: (スコア:0)
シビュラシステムはAIなのだろうか。
Re: (スコア:0)
あれって怒りや罪悪感等の激しい感情を持つ＝犯罪係数が上がるで
そういう感情を持たないサイコパスは網にかからないって話だけど
似たような結果になったら嫌だなぁ
Re:PSYCHO-PASSの世界に近づいてきた (スコア:2)
なにを損するんでしょう…?
Re:PSYCHO-PASSの世界に近づいてきた (スコア:2)
スコアが高グループであれば皆そうであって
「「スコア高グループだから変なことしないよう気を付けよう」って思ってる」かどうかに関係ないのでは?
Re:PSYCHO-PASSの世界に近づいてきた (スコア:2)
なにがどう知ったかなんでしょうか
さっぱり意味わかんないんですけど
今んところありそうな仮説としては
* 「スコア高グループだから変なことしないよう気を付けよう」っていう人は「「スコア高グループだけどおいらは気にしない」と言う人に比べてストレス分損をする。ので「一番損」
* スコアが高グループで実際犯罪を起こすような奴は多少不便しても当然であり、真面目で犯罪する気が無いような人が不便するのはかわいそうなので後者の方がより損であるため「一番損」
説明できないところからして後者なんじゃないかなぁと邪推
Re: (スコア:0)
99.99%の的中率があったりするなら、意外とあっさりと受け入れられるのではないだろうか。
Re: (スコア:0)
的中率を上げるために、スコアが高いと判定された人に
微罪適用したり、職質からの転び公妨でしょっぴくとか。
Re: (スコア:0)
2016年ヨハネスブルグで (スコア:1)
ＡＩ制御のロボットがギャングと組んで強奪騒ぎやってなかったか。
確か、CHAPPiEとか。
“人生の大半の問題はスルーカで解決できる...
1400種の指標 (スコア:0)
どんな内容やろ。
24h以内に数回DHMOを摂取している、とか？
部門名 (スコア:0)
・警察官になる
・政治家の知り合いを作る
Re:部門名 (スコア:2)
確かに、汚職警官や汚職政治家の友達になれば、何かしでかしても、揉み消してくれる可能性が……
Re: (スコア:0)
神奈川県警の場合は却ってスコアが高くなるのでは？
Re:部門名 (スコア:2)
「しょちゅう不祥事がニュースになる都道府県警と、普段は不祥事が全然ニュースにならないのに、稀に表沙汰になる不祥事は超弩級のヤツと云う都道府県警の、どっちがよりヤバいか??」問題
Re: (スコア:0)
・党に献金する
Re:部門名 (スコア:5, すばらしい洞察)
Re:部門名 (スコア:1)
やるとしたら、そのへんまとめて「スコアをマイナスにする指標」に含めるのかな。
Re:部門名 (スコア:2)
野党に献金すると、目ぇつけられまっせ。
タイトルだけ見て勘違い (スコア:0)
「AIを使って犯罪を犯す可能性のあるすごいハッカー」を探し出して犯罪予備軍扱いするシステムかと空目しました・・・
Re: (スコア:0)
過去の犯罪歴でポイントがつくだけでなく、その現場にいたり犯罪者の知人がいたら犯罪に関わる可能性ありとしてポイントがつく。
その人そのものが犯罪者になるか、犯罪に巻き込まれる可能性のありそうな人を重点的に監視するシステム。
何もしていなくても友人だった人が犯罪者になると登録される危険がある。
Re: (スコア:0)
犯罪者の知人がいたら
昔「友人の友人がアルカイダ」発言した政治家（故人）がいましたね
Re:タイトルだけ見て勘違い (スコア:1)
本人が犯罪を犯さなくても、出先でなぜか殺人事件が起きる頭脳は大人な小学生とか
運転適性検査に導入できればいいのに (スコア:0)
適性が低いと高出力車の購入はできません、とか。
Re:プロファイリング (スコア:2)
「長期無職・独身」までは良いとしても何故男性に限るのか
* 男性のほうが一般に力が強いから粗暴犯になりやすい
* 男性のほうが欲望が強いから(?)
Re:プロファイリング (スコア:1)
Re:プロファイリング (スコア:2)
なるほど「真の(?)無職」になりづらいから、ですか
男でも力仕事やればいい気もしないでもないですけど