オーストラリア政府機関Office of the eSafety CommnissonerがFacebookと提携し、Facebookのプラットフォーム上でリベンジポルノや不正アクセスにより第三者の手に渡ったヌード写真/動画の拡散を防ぐ取り組みを開始したそうだ(メディアリリース、 Facebook Newsroomの記事、 ABC Newsの記事、 The Guardianの記事、 The Vergeの記事)。

Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加するという。The Timesの記事によれば、米国・英国・カナダの3か国のようだ。

拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュ(フィンガープリント)が生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。

ハッシュ生成後、FacebookはOffice of the eSafety Commnissonerを通じてユーザーにMessengerのスレッドから写真/動画を削除するよう通知し、ユーザーが削除するとサーバーからも削除される。なお、ブロッキング処理では生成したハッシュのみが使われるが、ハッシュ生成前には特別な訓練を受けたFacebookスタッフによる写真/動画の確認が行われるとのこと。