画像系の生成AIの弱点をついたハック 21
ストーリー by nagazou
よく考える 部門より
よく考える 部門より
画像系の生成AIで人物の画像などを生成すると指の数を間違えやすいといった問題が起こりやすい。最新の論文でもAIが間違えやすい「指の数」を修正する技術などに触れられているものもあるという。テクノエッジで紹介されている「Concept Sliders」は、拡散モデルを使用し、画像の特定コンセプトを微調整するツールで、画像品質を損なわずに被写体の年齢、化粧、髪の色、表情の変更や、指の本数の調整、天気や季節のスタイル変更などが実現できるという（テクノエッジ）。
そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト（当時はツイート）した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ（Togetter）。
そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト（当時はツイート）した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ（Togetter）。
眼帯に三つ目の女装すれば… (スコア:1)
エラー生じるのかな？
灼眼のシャナとかもう誰も知らないか…
Re: (スコア:0)
三つ目がとおるなら知っている
Re: (スコア:0)
ニンゲンの像がうんたらかんたらの方ではないのか
Re: (スコア:0)
横島忠夫の方かもしれない。
https://x.com/naf1203/status/993859865503088640?s=20 [x.com]
邪眼ではなく心眼らしい。飛影はそんなこといわない。
ライフハック (スコア:0)
エロ配信のときに特徴的なホクロを肌にペンで描いておいて問題になったら「私ではないです私はここにホクロないですからホラ」と追及を逃れるメソッドと同じですね！（たぶんちがうとおもう
Re: (スコア:0)
天才現る！と思ったが、今、ハンターハンター見ているんだけど、レベルEでそんな話があったな、ということで天才じゃなかったのかもしれない。
Re: (スコア:0)
ハンターハンター関係なくない?
Re: (スコア:0)
レベルEはほくろを隠した方ですね。
Re: (スコア:0)
普通の書状には特徴的な花押を使っておいて一揆になったら、っていうメソッドと同じですね!
Re: (スコア:0)
そばかす書いて男を避ける主人公のアニメ、ちょうど今やってるな
差別だ！ (スコア:0)
世界中で普通に見られる多指症の人の写真をAIが勝手に修整するのは差別だ！
＃自分は見たことが無いが、医者に極めて珍しい症例として扱われるようなものでは無い
Re: (スコア:0)
むしろ人間側がアメリカアニメの登場キャラを4本指にするなど勝手に減らしてるわけだが
Re: (スコア:0)
ミッキーマウスなんかをAIにデザインさせた時、スクリプト書いたディズニーは気づかなかったんだろうな（当時は結果が出るまで膨大な時間がかかったから再出力を断念したのかも）
Re: (スコア:0)
この点を正しく描写した「木下藤吉郎〜豊臣秀吉」登場のドラマは見た事が無い。
Re: (スコア:0)
AIに豊臣秀吉描かせたらちゃんと6本指にするのかな？
指より歯が気になる (スコア:0)
AI美女って結構デタラメな歯の形してることが多いんだが、意外と気にしない人が多いのか？
Re: (スコア:0)
開発者やプロンプト絵師()は口が開いてるのが好きな性癖なのでは
Re: (スコア:0)
そもそもAI美女に向けられてる興味っていうのがあからさまに多い指に気づくくらいしかないんだと思う
「AIってあれでしょ、ラーメン食べられないやつ(笑)」程度にしか受容されてない
証拠写真？ (スコア:0)
フィルムカメラならまだしも、撮影して適度に処理してから出力されている画像データにそこまでの価値があるのだろうか
そもそも画像データを「写真」と呼んでいいものだろうか
＃お爺ちゃん、昔と違うのよ・・・と言われそうだけど
Re: (スコア:0)
写真の歴史を振り返ってみては？
貴兄の思う「写真」はどこからどこまでを指しているのか確認されると良い。
# 「感光したそのものでなければ写真じゃない」とか言われても困ると思うがどうか。
セーター地（焦げ茶色ニット）のブラジャーとか？ (スコア:0)
ツイッターでやたらと見かけるパイ凸してくれると称するお姉さんがた