パスワードを忘れた? アカウント作成
17221018 story
人工知能

米国のすべての州の検事総長、AIが生成するCSAMの問題調査と規制を議会に求める 17

ストーリー by headless
生成 部門より
米国の 50 すべての州と首都ワシントン、3 海外領 (北マリアナ諸島・プエルトリコ・米領バージン諸島) の検事総長が連名で、AI が生成する CSAM (児童性虐待素材) の調査と規制を求める書状を米上下院の主要役職者 (上院仮議長・下院議長・各院多数派および少数派のリーダー) に送った (書状: PDFThe Verge の記事Ars Technica の記事The Register の記事)。

書状では AI を使用することで実在する児童の写真を合成した CSAM イメージや、実在する児童に似た CSAM イメージが容易に生成できるようになり、児童が実際に性虐待を受けているかどうかにかかわらず、生成と流通が肉体的・精神的・感情的な被害を与えると指摘する。

実在しない児童を描いたアニメーションなどでも 1) AI が虐待を受けた児童のイメージをソースにしていることが多い、2)ソースとなった児童が実際に虐待を受けていなくても実際の児童に似た CSAM イメージ流通が被害につながる、3) 現実の児童に全く似ていなくても児童虐待市場の成長につながる、4) AI ツールにより容易に短時間で生成できるといった点で問題があるという。

そのため、AI 生成による CSAM の問題を調査する専門家による委員会の設立と、AI が生成した CSAM イメージを明確にカバーするよう CSAM 規制を拡大するなど、児童の性虐待を防ぐための対策を委員会の勧告に基づいて行うよう求めている。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年09月09日 17時37分 (#4525980)

    合わせると、実体の被害が減るって事じゃないの?
    それとも、放っとくと需要は増える一方で、不足分は実体が被害を被るって事なのかな?

    元の供給者達は大抵金になるからやってるので、金にならなくなったら相当数が減ると思うんだけど、その辺の調査とかは終わっていて、その結果に基づく規制案なのだろうか。

    • by nnnhhh (47970) on 2023年09月09日 23時27分 (#4526086) 日記

      思った
      何が不満なんや
      市場がデカくなっても被害児童が減るなら御の字やん
      天然物に手を出すに違いないとか言う偏見なのか
      それでも4が効いてくればリアル被害児童は減る気もするけどな
      コストが断然違うし

      親コメント
    • by Anonymous Coward

      徹頭徹尾、実体を守る気がないって事

    • by Anonymous Coward

      供給者の資金源が絶たれると困る事情でもあるのでは

    • by Anonymous Coward

      大量になると本物や似せている物が紛れ込んで流通していても取り締まりにくい問題がある

      • by Anonymous Coward

        大量になる以前に取り締まりできてないじゃん
        本当に取り締まりしてるならSNSサイトは全部潰れてるはず

  • by Anonymous Coward on 2023年09月09日 14時21分 (#4525923)

    二次元やな。

    あとは成人モデルを元にロリ生成AIかな

    • by Anonymous Coward

      一方日本は擬人化AIに注力した

      やかん娘というワードを受信したが需要は知らん

      • by Anonymous Coward

        萌えを注ぐ少女
        AIは輝く船
        過去も未来も次元も越えるから
        抱きとめて

    • by Anonymous Coward

      A. サルからの進化をAIに考えさせる
      B. 受精卵からの成長をAIに考えさせる

    • by Anonymous Coward

      二次元ロリも三次元のロリ画像をもとに作られてるのでアウト

      っていう話やで

  • by Anonymous Coward on 2023年09月10日 0時23分 (#4526103)

    ガキの保護になんか興味は無いと言ってるも同然だろ
    言論弾圧の方が主目的だと
    人権が聞いて呆れる

    • by Anonymous Coward

      結局これ反ポルノ活動の一部でしかないんだよ
      児童ポルノを入り口にしてポルノ全般の規制を目指してる
      児童がどうなるとかは本当はどうでもいい宗教的背景のある動き

    • by Anonymous Coward

      直接わいせつ画像を撮影されていなくても実在児童からディープフェイクや二次元風画像などが作成される場合は被害はあります。

      • by Anonymous Coward

        それはそれで取り締まればいいのでは

        • by Anonymous Coward

          今その話してるんじゃないの?

          • by Anonymous Coward

            いやそれ以外も一切合切禁止とせよとの要請。

typodupeerror

ソースを見ろ -- ある4桁UID

読み込み中...