headless 曰く、

NBC News の調査によれば、AI 技術を用いて有名人の顔を合成した「ディープフェイク」ポルノ動画へのアクセスを Google や Bing などのサーチエンジンが容易にしているそうだ (NBC News の記事、 Neowin の記事、 Ars Technica の記事)。

NBC News が「deepfakes」に女性有名人 36 人の名前を組み合わせて Google と Bing で検索したところ、Google では 34 人、Bing では 35 人のディープフェイク画像とディープフェイク動画へのリンクが検索結果トップに表示されたという。Bing の AI チャットボット Copilot はユーザーにディープフェイクポルノを見せることができないと答えるが、実際には Bing で容易にアクセス可能とのこと。

また、検索結果上位の半分以上が人気のディープフェイクサイトまたは競合サイトへのリンクであり、Google で「fake nudes」を検索すると、検索結果の最初の6つをディープフェイクポルノ作成アプリが占めていたそうだ。

この問題について Google はショッキングな結果を人々が目にしないようランキングシステムを改良していくと回答。Microsoft は合意のない性的画像 (NCII) を同社のプラットフォームやサービスで禁じていると回答したとのことだ。

現在ではほとんどが削除されたようだが、Amazon.com で生成 AI に商品名を生成させようとして失敗し、エラーメッセージが商品名になってしまったとみられる商品がいくつも出品されていた (The Verge の記事、 Ars Technica の記事)。

エラーメッセージは OpenAI のポリシー違反や情報不足、または理由を示さずにリクエストに応えることができないなどとして謝罪する内容で、「I'm sorry but I cannot fulfill this request it goes against OpenAI use policy-Black」のような形になっている。最後の「-Black」は商品のカラーバリエーションだ。

商品名が不明なので正確なところはわからないが、商品は家具が中心のようだ。中にはこのタトゥーマシンのように商品説明を含めて全体がエラーメッセージとなっており、謝り続けているものもある。