パスワードを忘れた? アカウント作成
20946987 story
人工知能

画像系の生成AIの弱点をついたハック 21

ストーリー by nagazou
よく考える 部門より
画像系の生成AIで人物の画像などを生成すると指の数を間違えやすいといった問題が起こりやすい。最新の論文でもAIが間違えやすい「指の数」を修正する技術などに触れられているものもあるという。テクノエッジで紹介されている「Concept Sliders」は、拡散モデルを使用し、画像の特定コンセプトを微調整するツールで、画像品質を損なわずに被写体の年齢、化粧、髪の色、表情の変更や、指の本数の調整、天気や季節のスタイル変更などが実現できるという(テクノエッジ)。

そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト(当時はツイート)した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ(Togetter)。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年11月30日 19時56分 (#4572385)

    エラー生じるのかな?
    灼眼のシャナとかもう誰も知らないか…

  • by Anonymous Coward on 2023年11月30日 19時08分 (#4572357)

    エロ配信のときに特徴的なホクロを肌にペンで描いておいて問題になったら「私ではないです私はここにホクロないですからホラ」と追及を逃れるメソッドと同じですね!(たぶんちがうとおもう

    • by Anonymous Coward

      天才現る!と思ったが、今、ハンターハンター見ているんだけど、レベルEでそんな話があったな、ということで天才じゃなかったのかもしれない。

      • by Anonymous Coward

        ハンターハンター関係なくない?

      • by Anonymous Coward

        レベルEはほくろを隠した方ですね。

    • by Anonymous Coward

      普通の書状には特徴的な花押を使っておいて一揆になったら、っていうメソッドと同じですね!

    • by Anonymous Coward

      そばかす書いて男を避ける主人公のアニメ、ちょうど今やってるな

  • by Anonymous Coward on 2023年11月30日 20時13分 (#4572396)

    世界中で普通に見られる多指症の人の写真をAIが勝手に修整するのは差別だ!
    #自分は見たことが無いが、医者に極めて珍しい症例として扱われるようなものでは無い

    • by Anonymous Coward

      むしろ人間側がアメリカアニメの登場キャラを4本指にするなど勝手に減らしてるわけだが

      • by Anonymous Coward

        ミッキーマウスなんかをAIにデザインさせた時、スクリプト書いたディズニーは気づかなかったんだろうな(当時は結果が出るまで膨大な時間がかかったから再出力を断念したのかも)

    • by Anonymous Coward

      この点を正しく描写した「木下藤吉郎〜豊臣秀吉」登場のドラマは見た事が無い。

      • by Anonymous Coward

        AIに豊臣秀吉描かせたらちゃんと6本指にするのかな?

  • by Anonymous Coward on 2023年12月01日 0時19分 (#4572492)

    AI美女って結構デタラメな歯の形してることが多いんだが、意外と気にしない人が多いのか?

    • by Anonymous Coward

      開発者やプロンプト絵師()は口が開いてるのが好きな性癖なのでは

    • by Anonymous Coward

      そもそもAI美女に向けられてる興味っていうのがあからさまに多い指に気づくくらいしかないんだと思う
      「AIってあれでしょ、ラーメン食べられないやつ(笑)」程度にしか受容されてない

  • by Anonymous Coward on 2023年12月01日 10時18分 (#4572620)

    フィルムカメラならまだしも、撮影して適度に処理してから出力されている画像データにそこまでの価値があるのだろうか
    そもそも画像データを「写真」と呼んでいいものだろうか

    #お爺ちゃん、昔と違うのよ・・・と言われそうだけど

    • by Anonymous Coward

      写真の歴史を振り返ってみては?
      貴兄の思う「写真」はどこからどこまでを指しているのか確認されると良い。

      # 「感光したそのものでなければ写真じゃない」とか言われても困ると思うがどうか。

  • by Anonymous Coward on 2023年12月01日 15時26分 (#4572816)

    ツイッターでやたらと見かけるパイ凸してくれると称するお姉さんがた

typodupeerror

海軍に入るくらいなら海賊になった方がいい -- Steven Paul Jobs

読み込み中...