日本でもAIで生成された顔画像を虚偽の宣伝広告に悪用される事例が発生 24
ストーリー by nagazou
お客様の声（架空） 部門より
お客様の声（架空） 部門より
読売新聞の記事によると、国内でディープフェイクを利用して作った架空の人物画像を利用し、宣伝サイトで使用するという事例が増えているそうだ（読売新聞）。
同記事によると、大阪市のIT企業「ACワークス」が提供しているイメージ写真や仮想モデル向けの写真が、90以上ものサイトで実在の客を装う形で宣伝に利用されているという。こうした利用方法はACワークス側の利用規約に反した内容であるという。健康食品や人材派遣、システム開発会社などの利用が目立つようで、在籍する税理士やお客様の声などに見立ててディープフェイクで作成された画像が利用されているとしている。
同記事によると、大阪市のIT企業「ACワークス」が提供しているイメージ写真や仮想モデル向けの写真が、90以上ものサイトで実在の客を装う形で宣伝に利用されているという。こうした利用方法はACワークス側の利用規約に反した内容であるという。健康食品や人材派遣、システム開発会社などの利用が目立つようで、在籍する税理士やお客様の声などに見立ててディープフェイクで作成された画像が利用されているとしている。
実在のモデルだって (スコア:2)
従って実在していないようなもの
Re: (スコア:0)
その場合、本体のほうが実在しないものとして扱われます
何の問題が (スコア:0)
モデルが実在だろうと非実在だろうとなんか関係あるのかね
客の声にしたってどうせ社員だか外注だかの作文だろ
Re:何の問題が (スコア:1)
客の声にしたってどうせ社員だか外注だかの作文だろ
そこに触れられたくないから新しいテクノロジーの問題のように装ってるんだろう。
Re:何の問題が (スコア:1)
ACワークス側の利用規約に反した内容らしいので、著作権侵害でしょうね。
Re: (スコア:0)
この世に流れる広告手法にまつわるニュースはすべてあなたには関係のない話だから今後は最初からスルーすることをおすすめします。
Re: (スコア:0)
モデルが実在すれば実態が嘘でも納得するんか、って話だよな。
つまりは具体的個人の存在しない「お客様の声」は許されているのかという話でもあるし、
たとえ合成画像であっても※顔写真はイメージですと断り書きがあれば構わないのか、という話でもある。
本件の直接の問題は利用規約違反だと思うが、それ以上に批判されるべき問題はあるのだろうか。
Re: (スコア:0)
無許可で使用している以上に批判してる記事でもないと思うが
何故批判される問題を探しているのか
(#4053571)や(#4053597)は「記事になったからには批判されているはずだ」という考えなのかなぁ
これは別にこういう事態を批判する記事ではなく
「創造されたものが実写の代わりに「写真」として使用されるようになってきた」という記事でしょ
Re: (スコア:0)
元記事の「悪用」が無許可の使用のみを指していると？
「架空の顔で「お客様の声」「大満足」」
「商品やサービスを推奨する客などを装って」
「架空の人間の画像が、あたかも実在するかのような形で多数の業者の宣伝サイトで使われている」
「すでに海外では悪用が問題になっており、歯止めなく使われれば、取り扱いのルールを巡って議論になる」
この文面から、批判のニュアンスを感じる事はできないとあなたは言うのだろうか。
Re: (スコア:0)
すまんなリンク先じゃなくてスラド記事のこと言うてんのかと思って
Re: (スコア:0)
実在の人物なら、発言の責任はその人物が持つことになる。
その人物に確認すれば本物の声なのか作文なのか判断できる。
写真素材集から引っ張ってきた顔写真なら作文だと判断できる。
架空の人物の顔写真を作るにはコストが掛かるので、顔出しには一定の社会的信用が発生していた。
ところがAIを利用して低コストで架空の顔写真を作れるとなれば、その前提が破綻する。
消費者は顔写真を信用して購買の参考にすることができなくなるし、ちゃんと実在の消費者の声を掲載している事業者にとっても迷惑な話。
Re: (スコア:0)
実写でもSNSから適当な写真引っ張ってきて使われることも多いしまとめて売ってたりもする
なので完全合成じゃなくてもだいぶ前から同じ問題はあるんだよね
よその言語のSNSから取ってきたりしたら「その人物に確認すれば」なんて現実的ではないし
もちろん心理的コスト的により簡単になるかもしれないけど、
元々あった問題なんだよな
何十年前でも雑誌末通販とか顔写真入りだったが
信頼度は限りなく低かったことを思うと、
ネット越しでは信頼できそうな会社かどうかわかりにくいってののほうが問題の根源なのかも
Re: (スコア:0)
TVのインタビューなんてほとんど仕込みだしな。
Re: (スコア:0)
実在する人の写真だと本人が気づいたときに「俺/私の写真を勝手に使いやがって」と嘘が確定するが、実在しない写真の場合はそうはならないだろ
そもそも、実在しようがしまいが虚偽内容であればどうあれ問題だし、架空の人物だが内容は事実なら倫理的に問題はあるもののそこまで咎めることでもない
問題点をはき違えて「何の問題が」なんて言っても滑稽なだけだよ
Re: (スコア:0)
従来は人間のモデルの写真を使っていたのが生成した画像になったというだけで、「嘘」という点においては変化してないんだけど
Re: (スコア:0)
嘘がバレやすいかバレにくいかの違い、と言えば理解できる？
Re: (スコア:0)
現実的な差があるとも思えないな
顔と文章が一致しなかったからといって内容まで直ちに嘘といえるわけでもないしな
そもそもの話「声」が行動に影響する人にとってそのことがどれほどの意味を持つかかわからないが
Re: (スコア:0)
バレやすいか?
写真提供した本人が悪用を知ってればしらばっくれればいいし
知らなければ空似かもしれず対処のしようもない
言葉の違う海外から写真持ち込めば本人知人の目にとまる確率も激減するし、
ホクロ一つ輪郭一つの加工で本人が自分の写真だと思わなくなることもある
写真ならバレやすいなんて思ってる方が甘いと思う
Re: (スコア:0)
より悪質になっているだけでも問題かと．
さらに，人間のモデル写真ではできないような新たな悪質さが今後加わっていく可能性もある．
Re: (スコア:0)
手書きの感想文などは広告用に作る、と関係者が言っていた。
お客様の声は実際は社員の声。
実在しようがしまいが変わらない (スコア:0)
今までは実在人物の写真にコメントとして虚偽の体験談を掲載していた。
AIサービスの方が実在人物よりも安上がりに済むのでAIが使われてきているだけであって広告を見る側としては違いはないよ。
AIの生成サービスは残念なことにまだ顔写真程度にしか使えない。
職場や旅行先、ポーズを取らせたり服を変えたりという生成オプションが貧弱で非実在人物の生活感を作り出すのが難しい。そのため広告一枚の偽りのためであればいいが、継続的な偽りには使いにくい。
その辺の分野は無料のDAZ Studio [google.com]（人物や髪、服は有料）によるCGが使われ始めている。半年ほど前のアップデートで表情などがより自然になり出会い系、インスタや(児童)ポルノ系に進出しつつある。
ただし静止画のみ。動画はハードルが高い。
＃結論：気軽に詐欺るならFaceAppが楽
Re: (スコア:0)
あんまり関係ありませんが
・大きなお友達向けのビデオで「芸能人○○激似!!」とかは、出演女優の顔の一部に(修正済み)に芸能人○○の顔のパーツを差し込んだりしている場合があります
・最近の中華商業コスプレイヤーの写真集は人間なのに不気味の谷を(逆方向に)超えて3DCGよりCGっぽいです
特に意味がある書き込みではありません
Re: (スコア:0)
>今までは実在人物の写真にコメントとして虚偽の体験談を掲載していた。
全ての体験談が虚偽であると証明されたわけではないですし、そこはグレーゾーンで
AVのパッケージ (スコア:0)
ちょっと前にパケ写と中身の映像が違いすぎて話題になったAVがあったの思い出した。