パスワードを忘れた? アカウント作成
13452710 story
Facebook

オーストラリア、Facebookでのリベンジポルノ拡散を未然に防ぐ取り組み 23

ストーリー by headless
確認 部門より
オーストラリア政府機関Office of the eSafety CommnissonerがFacebookと提携し、Facebookのプラットフォーム上でリベンジポルノや不正アクセスにより第三者の手に渡ったヌード写真/動画の拡散を防ぐ取り組みを開始したそうだ(メディアリリースFacebook Newsroomの記事ABC Newsの記事The Guardianの記事The Vergeの記事)。

Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加するという。The Timesの記事によれば、米国・英国・カナダの3か国のようだ。

拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュ(フィンガープリント)が生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。

ハッシュ生成後、FacebookはOffice of the eSafety Commnissonerを通じてユーザーにMessengerのスレッドから写真/動画を削除するよう通知し、ユーザーが削除するとサーバーからも削除される。なお、ブロッキング処理では生成したハッシュのみが使われるが、ハッシュ生成前には特別な訓練を受けたFacebookスタッフによる写真/動画の確認が行われるとのこと。

Facebookでは画像マッチング技術を用い、4月からFacebookおよびMessenger、Instagramで報告されたリベンジポルノをブロックしている。今回のパイロットプログラムは事前の報告という仕組みを追加し、対象を拡大するものとなる。なお、FacebookのAlex Stamos氏のツイートによれば、画像のリサイズといった単純な変更程度ではブロッキング処理に影響しないそうだ。

The Guardianの記事ではMicrosoftと米ダートマス大学が共同で開発した画像マッチング技術「PhotoDNA」を使用しているような記述になっているが、詳細は不明だ。Facebookでは米National Center for Missing and Exploited Children(NCMEC)のPhotoDNAプログラムに2011年から参加し、児童ポルノ拡散防止の取り組みを行っている。
  • by Anonymous Coward on 2017年11月11日 12時31分 (#3310637)

    裸の写真を撮らせるようなことはしない。

    ここに返信
    • by Anonymous Coward

      > 裸の写真を撮らせるようなことはしない。

      そんなこと言ってるから
      君はモテないんだよ

      • by Anonymous Coward

        モテない人の妄想は楽しいなぁ。
        裸を撮る撮らないがどうモテるモテないに関わると言うのか。

      • by Anonymous Coward

        モテなくて結構。

        この手の話は加害者はもちろんクズだが被害者にも同情する気は起きない。

        • by Anonymous Coward on 2017年11月11日 20時44分 (#3310819)

          イマドキは相手に撮らせるのが愛情表現のカタチなんです!
          文化は変わっていくんです!

          というわけで、
          「隠しちゃうなんてハズカシイ!モテるオンナは積極的に拡散」とでも触れ回って
          自主的に裸写真をバラまく文化を植え付けてしまえば、
          そのうち「被害」ではなくなる時が来るだろう。
          モテない人々にも悪い話ではないはずだ。

  • by Anonymous Coward on 2017年11月11日 11時42分 (#3310620)

    ハッシュの計算をローカルでやって、ハッシュを登録するのではダメなんだろうか

    ここに返信
    • by Anonymous Coward

      ローカルでやられたら見れないやん

    • by Anonymous Coward

      ハッシュだけでは、それが本当に問題がある画像のハッシュかわからない。
      リベンジポルノとかじゃなく、拡散してほしくない画像のハッシュを登録することができると、例えば企業や政治家などが拡散させたくない画像とかをコントロールするのに使われる可能性が出てきてしまう。

      • by Anonymous Coward

        今は画像認識でポルノかどうか判定する技術あるから・・・ま、ローカルだけで判定した情報使ってやったら悪用される可能性は潰せないけどw

      • by Anonymous Coward

        ヒットしたときに「特別な訓練を受けたFacebookスタッフによる写真/動画の確認」とやらをやれば良いだけでしょうに。
        アップロードした時点で「IBA防止プログラムに登録されたハッシュと一致しました。確認後問題が無ければ公開されます」とか表示して公開を遅延さるだけ。

        だけどそもそもちょっぴり画像を加工して(自分にモザイク掛けるとか)アップロードされたらハッシュじゃヒットしないけどね・・・
        画像検索とか画像類似のチェックを通す場合、特徴量の抽出ツールを非公開で運用するなら結局アップロードさせることになるが・・・
        公開可能な特徴量の抽出ツールを提供して使い方の説明やサポートまでやりつつ、となるとコストは高いかも。

      • by Anonymous Coward

        フィッシングサイトを作って言葉巧みに誘導すると、後ろめたい物が世界中から集まってくると。

  • by Anonymous Coward on 2017年11月11日 12時13分 (#3310628)

    彼氏が撮った写真は彼女の手元にはないよな・・・。

    ここに返信
  • by Anonymous Coward on 2017年11月11日 14時54分 (#3310699)

    相手のスマホにあるからばら撒かれるわけでしょ?自分もコピーもらうの?それに、ハッシュなんてちょっと編集すれば変わってしまうのでは。
    単に収集したいだけだよね。

    ここに返信
    • by Anonymous Coward

      これは漏れた後の「拡散を防ぐ」手段のひとつ。漏れること自体のためにあるわけじゃない。
      漏れた動画が再びうpされたときにそれを検出して・・・ってもの。

  • by Anonymous Coward on 2017年11月11日 16時54分 (#3310739)

    ハッシュって小さな違いでも、ちゃんと違うことがすぐわかるようにするためのものでしょ。

    ここに返信
    • by Anonymous Coward

      今は違いがあっても検出できるからね。従来のファイルハッシュはちょっとでも違うと変わるから使い物にならないけど・・・

      • by Anonymous Coward

        縦2000ドットの写真を縦1500ドットに縮小しても同じものだと検出できる?

        • by Anonymous Coward

          画像を例えば10x10ごとで一番多く使われる平均的な色の値をハッシュにする、これを繰り返して保存しておけばどんなサイズでも比べられる。あとは人間が必要に応じて目視すればいい。

          • by Anonymous Coward

            そのやり方だとぴったりの倍数じゃないと上手くヒットしないだうし、色調補正もヒットしない。
            せめてFFTとかそういうの使えよ・・・

    • by Anonymous Coward

      違うよ。もとのデータを特定のアルゴリズムで加工したものがハッシュ。
      きみのいうハッシュは、ハッシュという概念のごく一部でしかないよ。

  • by Anonymous Coward on 2017年11月11日 22時13分 (#3310845)

    写真の投稿をブロックされたら、SNS民なんて躍起になってブロックを回避したくなるだろう。

    なので、禁止されてる写真をアップしてきたら、とりあえずアップ完了されたように表示しておいて
    投稿主以外の人からは一切見えない「強制非表示モードの投稿」に設定すればいい。

    こうすれば投稿主を「ザマァ投稿したぞ」という錯覚に落とすことができるし、もし表示されてないことを
    意地悪な友人な投稿主に教えたとしても、「サーバーエラーです」みたいな表示で責任回避すればいい。

    Reddit使ったことありますか?新しくアカウントを作成して、どこでもいいので投稿してみてください。
    投稿は受理されて一覧に表示されますね。ログアウトして、ブラウザを再起動してみてください。非表示になってるはず。
    そんな感じ。

    ここに返信
    • by Anonymous Coward

      本当にやりたいことは、自分たちの管理する場所に訴えられる可能性のあるコンテンツを置かせないってことなんじゃないかな。拡散防止なんて建前でしょ

typodupeerror

日本発のオープンソースソフトウェアは42件 -- ある官僚

読み込み中...