オーストラリア、Facebookでのリベンジポルノ拡散を未然に防ぐ取り組み 23
ストーリー by headless
確認 部門より
確認 部門より
オーストラリア政府機関Office of the eSafety CommnissonerがFacebookと提携し、Facebookのプラットフォーム上でリベンジポルノや不正アクセスにより第三者の手に渡ったヌード写真/動画の拡散を防ぐ取り組みを開始したそうだ(メディアリリース、
Facebook Newsroomの記事、
ABC Newsの記事、
The Guardianの記事、
The Vergeの記事)。
Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加するという。The Timesの記事によれば、米国・英国・カナダの3か国のようだ。
拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュ(フィンガープリント)が生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。
ハッシュ生成後、FacebookはOffice of the eSafety Commnissonerを通じてユーザーにMessengerのスレッドから写真/動画を削除するよう通知し、ユーザーが削除するとサーバーからも削除される。なお、ブロッキング処理では生成したハッシュのみが使われるが、ハッシュ生成前には特別な訓練を受けたFacebookスタッフによる写真/動画の確認が行われるとのこと。
Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加するという。The Timesの記事によれば、米国・英国・カナダの3か国のようだ。
拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュ(フィンガープリント)が生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。
ハッシュ生成後、FacebookはOffice of the eSafety Commnissonerを通じてユーザーにMessengerのスレッドから写真/動画を削除するよう通知し、ユーザーが削除するとサーバーからも削除される。なお、ブロッキング処理では生成したハッシュのみが使われるが、ハッシュ生成前には特別な訓練を受けたFacebookスタッフによる写真/動画の確認が行われるとのこと。
Facebookでは画像マッチング技術を用い、4月からFacebookおよびMessenger、Instagramで報告されたリベンジポルノをブロックしている。今回のパイロットプログラムは事前の報告という仕組みを追加し、対象を拡大するものとなる。なお、FacebookのAlex Stamos氏のツイートによれば、画像のリサイズといった単純な変更程度ではブロッキング処理に影響しないそうだ。
The Guardianの記事ではMicrosoftと米ダートマス大学が共同で開発した画像マッチング技術「PhotoDNA」を使用しているような記述になっているが、詳細は不明だ。Facebookでは米National Center for Missing and Exploited Children(NCMEC)のPhotoDNAプログラムに2011年から参加し、児童ポルノ拡散防止の取り組みを行っている。
未然に防ぐ (スコア:1)
裸の写真を撮らせるようなことはしない。
Re: (スコア:0)
> 裸の写真を撮らせるようなことはしない。
そんなこと言ってるから
君はモテないんだよ
Re: (スコア:0)
モテない人の妄想は楽しいなぁ。
裸を撮る撮らないがどうモテるモテないに関わると言うのか。
Re: (スコア:0)
モテなくて結構。
この手の話は加害者はもちろんクズだが被害者にも同情する気は起きない。
Re:未然に防ぐ (スコア:1)
イマドキは相手に撮らせるのが愛情表現のカタチなんです！
文化は変わっていくんです！
というわけで、
「隠しちゃうなんてハズカシイ！モテるオンナは積極的に拡散」とでも触れ回って
自主的に裸写真をバラまく文化を植え付けてしまえば、
そのうち「被害」ではなくなる時が来るだろう。
モテない人々にも悪い話ではないはずだ。
アップする必要性 (スコア:0)
ハッシュの計算をローカルでやって、ハッシュを登録するのではダメなんだろうか
Re: (スコア:0)
ローカルでやられたら見れないやん
Re: (スコア:0)
ハッシュだけでは、それが本当に問題がある画像のハッシュかわからない。
リベンジポルノとかじゃなく、拡散してほしくない画像のハッシュを登録することができると、例えば企業や政治家などが拡散させたくない画像とかをコントロールするのに使われる可能性が出てきてしまう。
Re: (スコア:0)
今は画像認識でポルノかどうか判定する技術あるから・・・ま、ローカルだけで判定した情報使ってやったら悪用される可能性は潰せないけどｗ
Re: (スコア:0)
ヒットしたときに「特別な訓練を受けたFacebookスタッフによる写真/動画の確認」とやらをやれば良いだけでしょうに。
アップロードした時点で「IBA防止プログラムに登録されたハッシュと一致しました。確認後問題が無ければ公開されます」とか表示して公開を遅延さるだけ。
だけどそもそもちょっぴり画像を加工して(自分にモザイク掛けるとか)アップロードされたらハッシュじゃヒットしないけどね･･･
画像検索とか画像類似のチェックを通す場合、特徴量の抽出ツールを非公開で運用するなら結局アップロードさせることになるが･･･
公開可能な特徴量の抽出ツールを提供して使い方の説明やサポートまでやりつつ、となるとコストは高いかも。
Re: (スコア:0)
フィッシングサイトを作って言葉巧みに誘導すると、後ろめたい物が世界中から集まってくると。
寝てる隙に (スコア:0)
彼氏が撮った写真は彼女の手元にはないよな・・・。
ただのデバガメ (スコア:0)
相手のスマホにあるからばら撒かれるわけでしょ？自分もコピーもらうの？それに、ハッシュなんてちょっと編集すれば変わってしまうのでは。
単に収集したいだけだよね。
Re: (スコア:0)
これは漏れた後の「拡散を防ぐ」手段のひとつ。漏れること自体のためにあるわけじゃない。
漏れた動画が再びうｐされたときにそれを検出して・・・ってもの。
画像や動画のハッシュって意味あるの？ (スコア:0)
ハッシュって小さな違いでも、ちゃんと違うことがすぐわかるようにするためのものでしょ。
Re: (スコア:0)
今は違いがあっても検出できるからね。従来のファイルハッシュはちょっとでも違うと変わるから使い物にならないけど・・・
Re: (スコア:0)
縦2000ドットの写真を縦1500ドットに縮小しても同じものだと検出できる？
Re: (スコア:0)
画像を例えば10x10ごとで一番多く使われる平均的な色の値をハッシュにする、これを繰り返して保存しておけばどんなサイズでも比べられる。あとは人間が必要に応じて目視すればいい。
Re: (スコア:0)
そのやり方だとぴったりの倍数じゃないと上手くヒットしないだうし、色調補正もヒットしない。
せめてFFTとかそういうの使えよ･･･
Re: (スコア:0)
違うよ。もとのデータを特定のアルゴリズムで加工したものがハッシュ。
きみのいうハッシュは、ハッシュという概念のごく一部でしかないよ。
本当にブロックしたい？それならこうでしょ (スコア:0)
写真の投稿をブロックされたら、SNS民なんて躍起になってブロックを回避したくなるだろう。
なので、禁止されてる写真をアップしてきたら、とりあえずアップ完了されたように表示しておいて
投稿主以外の人からは一切見えない「強制非表示モードの投稿」に設定すればいい。
こうすれば投稿主を「ザマァ投稿したぞ」という錯覚に落とすことができるし、もし表示されてないことを
意地悪な友人な投稿主に教えたとしても、「サーバーエラーです」みたいな表示で責任回避すればいい。
Reddit使ったことありますか？新しくアカウントを作成して、どこでもいいので投稿してみてください。
投稿は受理されて一覧に表示されますね。ログアウトして、ブラウザを再起動してみてください。非表示になってるはず。
そんな感じ。
Re: (スコア:0)
本当にやりたいことは、自分たちの管理する場所に訴えられる可能性のあるコンテンツを置かせないってことなんじゃないかな。拡散防止なんて建前でしょ
本当にやりたいこと (スコア:0)
拡散が懸念されるヌード写真/動画を確認する特別な訓練
の方じゃないのか。