リモート診察のため子供の性器の写真を撮るとGoogleアカウントがBANされる 72
ストーリー by nagazou
検閲怖すぎ 部門より
検閲怖すぎ 部門より
マーク氏の妻は自分の子どもの陰茎部分が腫れて痛がっていることから、看護師に連絡を取った。翌朝リモートで緊急の診察を受けられるとのことで、看護師は医師が事前に確認できるよう、患部の写真を送るよう伝えたという。そのおかけで抗生物質が処方されて無事に直ったとされる（The New York Times、PCMag、Yahoo!news、GIGAZINE）。
しかしこの出来事の起きた2日後、マーク氏のもとにGoogleから「ポリシー違反」の通知があり、Googleアカウントが無効化されてしまったという。マーク氏は写真をGoogleが児童ポルノだと誤認しているのだろうと気付いたことから、Googleのフォームから、息子の感染症についての説明を送ったものの、Googleはマーク氏のアカウントを復活させることはないという決定を通知してきたという。
さらに10か月が経過したタイミングで、マーク氏はサンフランシスコ警察から、GoogleとISPに出された捜査令状の写しと、マーク氏が捜査対象になっていたことを知らせる書類を受け取ったそうだ。警察からは事件ですらなかったことは確認してもらったものの、Googleアカウントの復活はされていないという。元記事によると同様の事例はほかにもあるようだ。
あるAnonymous Coward 曰く、
しかしこの出来事の起きた2日後、マーク氏のもとにGoogleから「ポリシー違反」の通知があり、Googleアカウントが無効化されてしまったという。マーク氏は写真をGoogleが児童ポルノだと誤認しているのだろうと気付いたことから、Googleのフォームから、息子の感染症についての説明を送ったものの、Googleはマーク氏のアカウントを復活させることはないという決定を通知してきたという。
さらに10か月が経過したタイミングで、マーク氏はサンフランシスコ警察から、GoogleとISPに出された捜査令状の写しと、マーク氏が捜査対象になっていたことを知らせる書類を受け取ったそうだ。警察からは事件ですらなかったことは確認してもらったものの、Googleアカウントの復活はされていないという。元記事によると同様の事例はほかにもあるようだ。
あるAnonymous Coward 曰く、
児童ポルノを検知するために写真を監視しているのは以前から知られているが、親が医療目的で撮ったものまで児童ポルノと判定してしまったり、また警察から問題ないとの連絡を受けてもBANを解除しないのは問題であろう。
個別対応 (スコア:2, すばらしい洞察)
テック系の大企業ってとにかく自動化することで省力化してるんで
この類の"人件費がかかる"個別対応は門前払いする感じよね
相手が有名人だったりマーケ的に不利と判断すると、渋々腰を上げる感じ
オッサン (スコア:0)
児ポ判定されたって事は、患者がオッサンだったら問題なかったのかな
陰茎の写真だけでそれが子供のなのかオッサンのなのかを見分けられるとしたらそれはそれですごい技術かと
Re: (スコア:0)
つるつるに剃ったらオッサンでも Google 公認で若返れるかもしれん
Re: (スコア:0)
ほ、ほ、包茎ちゃうわ！
Re: (スコア:0)
いや、欧米だから子供も割礼済みだったかもしれんぞ
Re: (スコア:0)
児ポ判定されたって事は、患者がオッサンだったら問題なかったのかな
児ポにも負けるポークビッツは許されるのだろうか
# いずれにせよやるせないことになりそうだ
Re: (スコア:0)
おそらくGoogleフォトに自動アップロードされたものがAIで判定されたのだと思いますが、凄い検知力。
病気で腫れていたときの写真ですよね。
児童ポルノでみられるような写真ではないはずなのに。
ただし、どうも決め手は奥さんとお子さんが裸でベッドに寝ている写真もあったかららしいんですよね。
どっちかというと、そっちが検知されていた可能性のほうが高いな。
子供がいるとその手の写真は割とある (スコア:0)
俺のOneDriveには、お風呂場で俺と子供が全裸でしょうぶ湯の菖蒲持って遊んでる写真があるんだけど、今のところ児童ポルノとしては扱われてないらしい。
あと、子供がオムツいっちょうでそこらじゅうを走り回る動画とか、オムツ姿で遊んでる写真とか、もっと言えばへその緒がまだ繋がった状態の全裸写真とかもあるんだけど、児童ポルノとしては扱われていないらしい。
やっぱGoogleがクソなだけじゃない？
Re: (スコア:0)
自分も子供がいるから写真はあるけど、さすがにクラウドに上げることはしてないです。
マイクロソフトもいつ方針が変わるかわからないから、その手の写真はローカル保存のみとした方が…
Re: (スコア:0)
自分はApple(iCloudPhoto)だけど、アップしてある。
今のところ問題にされてない。
昨年だったか、CSAM対応のためデバイス上で写真を既存のDBとハッシュ値で照合する、と発表して
検閲だーとか問題視されまくって、結局延期されてる。
Google様は、ハッシュどころか、普通に写真の内容で通報しちゃうってことだよね。
しかもサーバーサイドで。
垢BANは怖い。
Re: (スコア:0)
腫れてなかったとGoogleは言ってるらしいで
Re: (スコア:0)
はいはい祖国祖国
PPAP (スコア:0)
zipで圧縮して長いパスワードを付けておけば回避可能かな？
小さい子供がいる身としては明日は我が身かもと。
Re:PPAP (スコア:1)
FLMASKの登場ですね
Re: (スコア:0)
zipで圧縮して長いパスワードを付けておけば回避可能かな？
もしくはステガノグラフィで女性器画像の中に隠すとか(アカン
Re: (スコア:0)
end-to-end encrypted cloud storageを使って下さい。
米国には懲罰的賠償制度があるじゃないか (スコア:0)
素晴らしい。
Re: (スコア:0)
だね。看護師に巨額賠償請求すべき。
Re:米国には懲罰的賠償制度があるじゃないか (スコア:1)
本気で看護師が罪に問われかねないところが最近の海外児ポ界隈の怖い所。
そこで (スコア:0)
FAXの出番ですよ。
Re: (スコア:0)
送信側は複合機のガラス板にへばりつくのか
Re: (スコア:0)
複合機メーカー経由で通報されたりしてな
Re: (スコア:0)
複合機メーカー経由で通報されたりしてな
メーカーはきっとXeroX
Re: (スコア:0)
カラーFAXもないわけじゃないけど…。
FAXで送るためにスマホで写真を撮影してカラープリンターで印刷。
印刷で出てきたものをFAXで送信。
そのスマホの写真がGoogleフォトに自動アップロード。
Googleが検閲して発見し、警察に通報。
アカウントは凍結・削除。
ってなるのでは。
Googleフォト怖い。
Google視点だと (スコア:0)
Google視点だと
危なそうな写真が見つかったから通報してアカウントBANするのは普通の対応
本人が「診察のためだった」って言ったところで証拠が無いから解除しないだろう
そんなことすれば診察のためと言い訳すればなんでもアリになる。
唯一のルートは通報された警察がGoogleに事件性なしって報告すること。
Re:Google視点だと (スコア:1)
>唯一のルートは通報された警察がGoogleに事件性なしって報告すること。
それでも復活しなかったんですが
Googleにしてみれば、現場の官憲がなんぼのもんじゃい司法令状もってこいってなもんでしょう。
Re: (スコア:0)
警察がGoogleなどにフィードバックする経路がないんじゃないですかね。
Googleから警察に報告しておしまいになっているとか。
Re: (スコア:0)
なんだけど、この記事だと警察からGoogleへの報告があったのかどうかが不明なのでは。
Re: (スコア:0)
＞マーク氏は警察の報告書を添えてGoogleに再度アカウントの復活を求めた
Googleは警察の報告書を見た上で、警察は信用ならない、GoogleのAIによるポルノ判定が絶対、という立場を取ったということだよ？
Re: (スコア:0)
あれ？どこだ？ソースの方？
Re:Google視点だと (スコア:1)
Yahoo! newsの方でNew York Timesの記事が全文読める。
その中にこう書いてある。
> A Google spokesperson said the company stands by its decisions, even though law enforcement cleared the two men.
GIGAZINEの和訳だと、
> Googleの広報担当者は「法執行機関が2人(マーク氏とCassio氏)を潔白だといったとしても、当社は自らの判断を支持します」と述べたとのことです。
Re:Google視点だと (スコア:1)
法執行機関は法に基づいて執行する機関です。
意味のある法的判断を行うのは司法機関です。
三権分立を勉強しましょう。
行政が違法行為を行うこともあるわけです。
Re: (スコア:0)
Androidで撮影→iPhoneに転送→iPhoneから病院に送る
って流れだから、撮影した端末から直接病院に送ったわけでもないし、Google側からは自分で楽しむか販売目的で転送したようにしか見えないのは確かなんだよね
ローカルで判別されたか、勝手に Google Photos に同期されてそっちで判別されたかはわからないけど
iPhoneに持っていくための経路、AppleによるBANと更に2つのBANの可能性があったのかな
Re: (スコア:0)
Appleは児ポ検出する計画がなぜか袋叩きにあって中止しちゃったんじゃなかったっけ
Re: (スコア:0)
つか「児童ポルノだと誤認」って書いてあるけど誤認じゃない児童ポルノそのものだよね
撮影意図とか関係なくそういう嗜好の人が見ればポルノとして「使える」んだし
最近はグーグルの倫理感が (スコア:0)
正しくみたいな雰囲気があって
嫌だな
Re:最近はグーグルの倫理感が (スコア:1)
"Don't be evil"って、最近は自戒じゃなく他者に対してばかり言ってるような感じ。
「俺等が正義だ」みたいな。
Re: (スコア:0)
うちがevilに見えるのはお前らがevilだからだ！ってか
Re: (スコア:0)
自動化のために犠牲は仕方ないし、疑われるような行為をするのが間違っている、と考えているように見える
ディストピアはもうすぐ
Re: (スコア:0)
まぁ迂回すれば済むのに正しい道だからといって地雷原を歩きたいとは思わんしな。
しかしアカウント自体はタダとしても、金を払ったAndroidスマホでは必須なんだし、契約不履行とかで勝てないのかな。
Re: (スコア:0)
検出はGoogleアカウントではなくGooglePhotosのサーバ側での機能ですね
なのでPhotosと同期させなければ問題は起きなかったし、Photosでは当然児童ポルノに関して規約（契約）に盛り込まれているので、そこも戦えない
Photosでの問題でアカウント全体が停止になることの是非はあるけど、違法ユーザというマークが付けられたと考えれば仕方ないのかな
ということで、違法ではなかったことを認めさせる他ないのですが、それが上手くいっていないというのがストーリー
Re: (スコア:0)
正しくみたいな雰囲気があって
嫌だな
こうですか？
まさしくEvil
Re: (スコア:0)
俺たちの考える(≒今でも期待してる)Googleはこうじゃない、みたいのは正直ある。
依存してる自覚あるしね。
なぜ体の一部は公開不可なのか (スコア:0)
そもそも「自分の体に人に見せてはいけない不浄なものがついている」って感覚自体に不合理を感じるわ。
ネットに数多あるモザイク無しの画像とかを見続けていると段々と単なる普通の体の一部としか見えなくなってくるし、むしろ隠匿こそが性欲を掻き立てるエッセンスになっているのではないかとさえ思えてくる。
今だマスクがあふれている日本においては、そのうち口唇も陰部認定されるかも？？
Re: (スコア:0)
生きているうちは(玉袋|乳袋)
死した後は糞袋
古来よりの習わしでございます
そらだめでしょう (スコア:0)
例外を認めるとあれもこれもとなり収拾がつかなくなる
今回の件で明らかになったのはメール爆弾が有効であるということ
嫌いな相手のメールに児童ポルノを送付することで
相手のメールボックスに格納されてチェックに引っかかりバンｗ
Re: (スコア:0)
例外を認めるとあれもこれもとなり収拾がつかなくなる
んなこたない
やったことに対する責任コストから逃げてるだけ
間違いでも聞く耳持たんとか日本や圧政の国でなけりゃ訴訟に発展するでしょう
/*
今回のが訴訟にならなければ支援者出てが焚きつけるんじゃないかな
同じ目に合う人を出さないためにって感じの控訴が日常的にあるお国柄ですし
*/
Re: (スコア:0)
そして認めたら診察と称した性器画像が氾濫するわけですねわかります
Re: (スコア:0)
ban解除に証拠提示で対応するコストから逃げてるだけでしょ
# 二元論の夏厨かよ
Re: (スコア:0)
「法律なんて関係ない我が社が正義だ」って無法な会社が正しいとおっしゃるｗ