headless 曰く、

NBC News の調査によれば、AI 技術を用いて有名人の顔を合成した「ディープフェイク」ポルノ動画へのアクセスを Google や Bing などのサーチエンジンが容易にしているそうだ (NBC News の記事、 Neowin の記事、 Ars Technica の記事)。

NBC News が「deepfakes」に女性有名人 36 人の名前を組み合わせて Google と Bing で検索したところ、Google では 34 人、Bing では 35 人のディープフェイク画像とディープフェイク動画へのリンクが検索結果トップに表示されたという。Bing の AI チャットボット Copilot はユーザーにディープフェイクポルノを見せることができないと答えるが、実際には Bing で容易にアクセス可能とのこと。

また、検索結果上位の半分以上が人気のディープフェイクサイトまたは競合サイトへのリンクであり、Google で「fake nudes」を検索すると、検索結果の最初の6つをディープフェイクポルノ作成アプリが占めていたそうだ。

この問題について Google はショッキングな結果を人々が目にしないようランキングシステムを改良していくと回答。Microsoft は合意のない性的画像 (NCII) を同社のプラットフォームやサービスで禁じていると回答したとのことだ。