パスワードを忘れた? アカウント作成
15767148 story
Google

リモート診察のため子供の性器の写真を撮るとGoogleアカウントがBANされる 72

ストーリー by nagazou
検閲怖すぎ 部門より
マーク氏の妻は自分の子どもの陰茎部分が腫れて痛がっていることから、看護師に連絡を取った。翌朝リモートで緊急の診察を受けられるとのことで、看護師は医師が事前に確認できるよう、患部の写真を送るよう伝えたという。そのおかけで抗生物質が処方されて無事に直ったとされる(The New York TimesPCMagYahoo!newsGIGAZINE)。

しかしこの出来事の起きた2日後、マーク氏のもとにGoogleから「ポリシー違反」の通知があり、Googleアカウントが無効化されてしまったという。マーク氏は写真をGoogleが児童ポルノだと誤認しているのだろうと気付いたことから、Googleのフォームから、息子の感染症についての説明を送ったものの、Googleはマーク氏のアカウントを復活させることはないという決定を通知してきたという。

さらに10か月が経過したタイミングで、マーク氏はサンフランシスコ警察から、GoogleとISPに出された捜査令状の写しと、マーク氏が捜査対象になっていたことを知らせる書類を受け取ったそうだ。警察からは事件ですらなかったことは確認してもらったものの、Googleアカウントの復活はされていないという。元記事によると同様の事例はほかにもあるようだ。

あるAnonymous Coward 曰く、

児童ポルノを検知するために写真を監視しているのは以前から知られているが、親が医療目的で撮ったものまで児童ポルノと判定してしまったり、また警察から問題ないとの連絡を受けてもBANを解除しないのは問題であろう。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 個別対応 (スコア:2, すばらしい洞察)

    by Anonymous Coward on 2022年08月24日 13時25分 (#4311739)

    テック系の大企業ってとにかく自動化することで省力化してるんで
    この類の"人件費がかかる"個別対応は門前払いする感じよね

    相手が有名人だったりマーケ的に不利と判断すると、渋々腰を上げる感じ

  • by Anonymous Coward on 2022年08月24日 13時07分 (#4311722)

    児ポ判定されたって事は、患者がオッサンだったら問題なかったのかな
    陰茎の写真だけでそれが子供のなのかオッサンのなのかを見分けられるとしたらそれはそれですごい技術かと

    • by Anonymous Coward

      つるつるに剃ったらオッサンでも Google 公認で若返れるかもしれん

      • by Anonymous Coward

        ほ、ほ、包茎ちゃうわ!

        • by Anonymous Coward

          いや、欧米だから子供も割礼済みだったかもしれんぞ

    • by Anonymous Coward

      児ポ判定されたって事は、患者がオッサンだったら問題なかったのかな

      児ポにも負けるポークビッツは許されるのだろうか

      # いずれにせよやるせないことになりそうだ

    • by Anonymous Coward

      おそらくGoogleフォトに自動アップロードされたものがAIで判定されたのだと思いますが、凄い検知力。

      病気で腫れていたときの写真ですよね。
      児童ポルノでみられるような写真ではないはずなのに。

      ただし、どうも決め手は奥さんとお子さんが裸でベッドに寝ている写真もあったかららしいんですよね。
      どっちかというと、そっちが検知されていた可能性のほうが高いな。

      • 俺のOneDriveには、お風呂場で俺と子供が全裸でしょうぶ湯の菖蒲持って遊んでる写真があるんだけど、今のところ児童ポルノとしては扱われてないらしい。
        あと、子供がオムツいっちょうでそこらじゅうを走り回る動画とか、オムツ姿で遊んでる写真とか、もっと言えばへその緒がまだ繋がった状態の全裸写真とかもあるんだけど、児童ポルノとしては扱われていないらしい。
        やっぱGoogleがクソなだけじゃない?

        • by Anonymous Coward

          自分も子供がいるから写真はあるけど、さすがにクラウドに上げることはしてないです。
          マイクロソフトもいつ方針が変わるかわからないから、その手の写真はローカル保存のみとした方が…

        • by Anonymous Coward

          自分はApple(iCloudPhoto)だけど、アップしてある。
          今のところ問題にされてない。

          昨年だったか、CSAM対応のためデバイス上で写真を既存のDBとハッシュ値で照合する、と発表して
          検閲だーとか問題視されまくって、結局延期されてる。
          Google様は、ハッシュどころか、普通に写真の内容で通報しちゃうってことだよね。
          しかもサーバーサイドで。

          垢BANは怖い。

      • by Anonymous Coward

        腫れてなかったとGoogleは言ってるらしいで

  • by Anonymous Coward on 2022年08月24日 13時15分 (#4311730)

    zipで圧縮して長いパスワードを付けておけば回避可能かな?

    小さい子供がいる身としては明日は我が身かもと。

  • by Anonymous Coward on 2022年08月24日 13時19分 (#4311734)

    素晴らしい。

  • by Anonymous Coward on 2022年08月24日 13時20分 (#4311736)

    FAXの出番ですよ。

    • by Anonymous Coward

      送信側は複合機のガラス板にへばりつくのか

    • by Anonymous Coward

      複合機メーカー経由で通報されたりしてな

      • by Anonymous Coward

        複合機メーカー経由で通報されたりしてな

        メーカーはきっとXeroX

    • by Anonymous Coward

      カラーFAXもないわけじゃないけど…。

      FAXで送るためにスマホで写真を撮影してカラープリンターで印刷。
      印刷で出てきたものをFAXで送信。

      そのスマホの写真がGoogleフォトに自動アップロード。

      Googleが検閲して発見し、警察に通報。
      アカウントは凍結・削除。

      ってなるのでは。

      Googleフォト怖い。

  • by Anonymous Coward on 2022年08月24日 13時52分 (#4311764)

    Google視点だと
    危なそうな写真が見つかったから通報してアカウントBANするのは普通の対応
    本人が「診察のためだった」って言ったところで証拠が無いから解除しないだろう
    そんなことすれば診察のためと言い訳すればなんでもアリになる。
    唯一のルートは通報された警察がGoogleに事件性なしって報告すること。

    • by Anonymous Coward on 2022年08月24日 13時56分 (#4311767)

      >唯一のルートは通報された警察がGoogleに事件性なしって報告すること。
      それでも復活しなかったんですが
      Googleにしてみれば、現場の官憲がなんぼのもんじゃい司法令状もってこいってなもんでしょう。

      親コメント
      • by Anonymous Coward

        警察がGoogleなどにフィードバックする経路がないんじゃないですかね。
        Googleから警察に報告しておしまいになっているとか。

    • by Anonymous Coward

      なんだけど、この記事だと警察からGoogleへの報告があったのかどうかが不明なのでは。

      • by Anonymous Coward
        記事から明らかなのは
        >マーク氏は警察の報告書を添えてGoogleに再度アカウントの復活を求めた
        Googleは警察の報告書を見た上で、警察は信用ならない、GoogleのAIによるポルノ判定が絶対、という立場を取ったということだよ?
        • by Anonymous Coward

          あれ?どこだ?ソースの方?

          • by Anonymous Coward on 2022年08月24日 15時37分 (#4311868)

            Yahoo! newsの方でNew York Timesの記事が全文読める。
            その中にこう書いてある。

            > A Google spokesperson said the company stands by its decisions, even though law enforcement cleared the two men.

            GIGAZINEの和訳だと、

            > Googleの広報担当者は「法執行機関が2人(マーク氏とCassio氏)を潔白だといったとしても、当社は自らの判断を支持します」と述べたとのことです。

            親コメント
    • by Anonymous Coward

      Androidで撮影→iPhoneに転送→iPhoneから病院に送る
      って流れだから、撮影した端末から直接病院に送ったわけでもないし、Google側からは自分で楽しむか販売目的で転送したようにしか見えないのは確かなんだよね
      ローカルで判別されたか、勝手に Google Photos に同期されてそっちで判別されたかはわからないけど
      iPhoneに持っていくための経路、AppleによるBANと更に2つのBANの可能性があったのかな

      • by Anonymous Coward

        Appleは児ポ検出する計画がなぜか袋叩きにあって中止しちゃったんじゃなかったっけ

    • by Anonymous Coward

      つか「児童ポルノだと誤認」って書いてあるけど誤認じゃない児童ポルノそのものだよね
      撮影意図とか関係なくそういう嗜好の人が見ればポルノとして「使える」んだし

  • by Anonymous Coward on 2022年08月24日 14時15分 (#4311781)

    正しくみたいな雰囲気があって
    嫌だな

    • by Anonymous Coward on 2022年08月24日 14時24分 (#4311791)

      "Don't be evil"って、最近は自戒じゃなく他者に対してばかり言ってるような感じ。
      「俺等が正義だ」みたいな。

      親コメント
      • by Anonymous Coward

        うちがevilに見えるのはお前らがevilだからだ!ってか

    • by Anonymous Coward

      自動化のために犠牲は仕方ないし、疑われるような行為をするのが間違っている、と考えているように見える
      ディストピアはもうすぐ

      • by Anonymous Coward

        まぁ迂回すれば済むのに正しい道だからといって地雷原を歩きたいとは思わんしな。
        しかしアカウント自体はタダとしても、金を払ったAndroidスマホでは必須なんだし、契約不履行とかで勝てないのかな。

        • by Anonymous Coward

          検出はGoogleアカウントではなくGooglePhotosのサーバ側での機能ですね
          なのでPhotosと同期させなければ問題は起きなかったし、Photosでは当然児童ポルノに関して規約(契約)に盛り込まれているので、そこも戦えない
          Photosでの問題でアカウント全体が停止になることの是非はあるけど、違法ユーザというマークが付けられたと考えれば仕方ないのかな
          ということで、違法ではなかったことを認めさせる他ないのですが、それが上手くいっていないというのがストーリー

    • by Anonymous Coward

      正しくみたいな雰囲気があって
      嫌だな

      こうですか?

      まさしくEvil

    • by Anonymous Coward

      俺たちの考える(≒今でも期待してる)Googleはこうじゃない、みたいのは正直ある。
      依存してる自覚あるしね。

  • by Anonymous Coward on 2022年08月24日 14時45分 (#4311808)

    そもそも「自分の体に人に見せてはいけない不浄なものがついている」って感覚自体に不合理を感じるわ。

    ネットに数多あるモザイク無しの画像とかを見続けていると段々と単なる普通の体の一部としか見えなくなってくるし、むしろ隠匿こそが性欲を掻き立てるエッセンスになっているのではないかとさえ思えてくる。

    今だマスクがあふれている日本においては、そのうち口唇も陰部認定されるかも??

    • by Anonymous Coward

      生きているうちは(玉袋|乳袋)
      死した後は糞袋
      古来よりの習わしでございます

  • by Anonymous Coward on 2022年08月24日 15時14分 (#4311834)

    例外を認めるとあれもこれもとなり収拾がつかなくなる

    今回の件で明らかになったのはメール爆弾が有効であるということ
    嫌いな相手のメールに児童ポルノを送付することで
    相手のメールボックスに格納されてチェックに引っかかりバンw

    • by Anonymous Coward

      例外を認めるとあれもこれもとなり収拾がつかなくなる

      んなこたない
      やったことに対する責任コストから逃げてるだけ
      間違いでも聞く耳持たんとか日本や圧政の国でなけりゃ訴訟に発展するでしょう

      /*
      今回のが訴訟にならなければ支援者出てが焚きつけるんじゃないかな
      同じ目に合う人を出さないためにって感じの控訴が日常的にあるお国柄ですし
      */

      • by Anonymous Coward

        そして認めたら診察と称した性器画像が氾濫するわけですねわかります

        • by Anonymous Coward

          ban解除に証拠提示で対応するコストから逃げてるだけでしょ

          # 二元論の夏厨かよ

    • by Anonymous Coward

      「法律なんて関係ない我が社が正義だ」って無法な会社が正しいとおっしゃるw

typodupeerror

UNIXはシンプルである。必要なのはそのシンプルさを理解する素質だけである -- Dennis Ritchie

読み込み中...