米国のすべての州の検事総長、AIが生成するCSAMの問題調査と規制を議会に求める

米国の 50 すべての州と首都ワシントン、3 海外領 (北マリアナ諸島・プエルトリコ・米領バージン諸島) の検事総長が連名で、AI が生成する CSAM (児童性虐待素材) の調査と規制を求める書状を米上下院の主要役職者 (上院仮議長・下院議長・各院多数派および少数派のリーダー) に送った (書状: PDF、 The Verge の記事、 Ars Technica の記事、 The Register の記事)。

書状では AI を使用することで実在する児童の写真を合成した CSAM イメージや、実在する児童に似た CSAM イメージが容易に生成できるようになり、児童が実際に性虐待を受けているかどうかにかかわらず、生成と流通が肉体的・精神的・感情的な被害を与えると指摘する。

実在しない児童を描いたアニメーションなどでも 1) AI が虐待を受けた児童のイメージをソースにしていることが多い、2)ソースとなった児童が実際に虐待を受けていなくても実際の児童に似た CSAM イメージ流通が被害につながる、3) 現実の児童に全く似ていなくても児童虐待市場の成長につながる、4) AI ツールにより容易に短時間で生成できるといった点で問題があるという。

そのため、AI 生成による CSAM の問題を調査する専門家による委員会の設立と、AI が生成した CSAM イメージを明確にカバーするよう CSAM 規制を拡大するなど、児童の性虐待を防ぐための対策を委員会の勧告に基づいて行うよう求めている。

3)と4)は

[Anonymous Coward]

合わせると、実体の被害が減るって事じゃないの？
それとも、放っとくと需要は増える一方で、不足分は実体が被害を被るって事なのかな？

元の供給者達は大抵金になるからやってるので、金にならなくなったら相当数が減ると思うんだけど、その辺の調査とかは終わっていて、その結果に基づく規制案なのだろうか。

Re:3)と4)は

[nnnhhh (47970)]

思った
何が不満なんや
市場がデカくなっても被害児童が減るなら御の字やん
天然物に手を出すに違いないとか言う偏見なのか
それでも4が効いてくればリアル被害児童は減る気もするけどな
コストが断然違うし

Re:

[Anonymous Coward]

徹頭徹尾、実体を守る気がないって事

Re:

[Anonymous Coward]

供給者の資金源が絶たれると困る事情でもあるのでは

Re:

[Anonymous Coward]

大量になると本物や似せている物が紛れ込んで流通していても取り締まりにくい問題がある

Re:

[Anonymous Coward]

大量になる以前に取り締まりできてないじゃん
本当に取り締まりしてるならSNSサイトは全部潰れてるはず

やっぱ

[Anonymous Coward]

二次元やな。

あとは成人モデルを元にロリ生成AIかな

Re:

[Anonymous Coward]

一方日本は擬人化AIに注力した

やかん娘というワードを受信したが需要は知らん

Re:

[Anonymous Coward]

萌えを注ぐ少女
AIは輝く船
過去も未来も次元も越えるから
抱きとめて

Re:

[Anonymous Coward]

A. サルからの進化をAIに考えさせる
B. 受精卵からの成長をAIに考えさせる

Re:

[Anonymous Coward]

二次元ロリも三次元のロリ画像をもとに作られてるのでアウト

っていう話やで

実際に受けているかどうかにかかわらず

[Anonymous Coward]

ガキの保護になんか興味は無いと言ってるも同然だろ
言論弾圧の方が主目的だと
人権が聞いて呆れる

Re:

[Anonymous Coward]

結局これ反ポルノ活動の一部でしかないんだよ
児童ポルノを入り口にしてポルノ全般の規制を目指してる
児童がどうなるとかは本当はどうでもいい宗教的背景のある動き

Re:

[Anonymous Coward]

直接わいせつ画像を撮影されていなくても実在児童からディープフェイクや二次元風画像などが作成される場合は被害はあります。

Re:

[Anonymous Coward]

それはそれで取り締まればいいのでは

Re:

[Anonymous Coward]

今その話してるんじゃないの？

Re:

[Anonymous Coward]

いやそれ以外も一切合切禁止とせよとの要請。