パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Stable Diffusionなどの画像生成モデル、学習データとほぼ同じ画像を出力することもある」記事へのコメント

  • by Anonymous Coward

    この問題、対処は簡単です。

    AIが生成した画像をクエリにして学習データに似た画像があるかないか画像検索を行うモジュールを追加して、似た画像があればその画像はユーザに見せない、ってやるだけ。

    技術的には、画像検索のアルゴリズムなんていくらでもあって
    例えば20年ぐらい前に流行ったSIFT特徴量みたいな古典的なアルゴリズムを使うだけでも実用レベルで動作します。
    さらに古典的と言ってもハッシュベースの手法だから、クラウド使えば容易に負荷分散できる。スケールアウトできる。

    特許はチェックする必要があるだろうけど、技術的問題は既に全部解決していると言っても過言ではないでしょう。
    つまり、この話は問題提起としては成立しているけど、対処が簡単だから大した脅威にはならないです。

    • Re: (スコア:4, 興味深い)

      by Anonymous Coward

      そう簡単ではない。
      使えば分かるが、対象オブジェクトの生成とレイアウトがどこかで大きく分岐しているので、
      対象オブジェクトは、ほぼどこかのコピペ、但しポーズやレイアウトだけは異なる、
      という二次創作画像が頻繁に生成される。
      「画像全体として似た画像」はなくても、「構成する要素はほぼ元ネタのまま」が出来るだけなので、
      似た画像をカットする手法だけでは、解決にならないと考えられる。

      さらに、手だけ変、みたいな一部分だけが元画像と異なるものも生成されやすく、
      「画像から切り出したオブジェクトデータベースと似たもの

      • by Anonymous Coward

        別ACですが、おすすめの『 dragon ball z 』試してみましたが。。。苦笑いしかできない。

        やはり、特定の作品を指定すると同じものしか出てこないのは、当たり前のことで、『 munch scream 』や『 monalisa picasso 』でも似たような結果。

        毎回毎回違うので、同じ結果とは限りませんが、『 scream of munch, picasso style 』だと近いけれど少し違う。comic とか追加すると別物になった。

        作品名で同じ、似ているモノが出てくるのは避けられないかと。
        あまり似ていなければ、別物だと人間が認識してしまうだろう。

        #だた学習内容に偏りがるのか、日本語が得意で

        • by Anonymous Coward on 2023年02月05日 22時16分 (#4405803)

          NARUTOもお勧め…は置いといて、
          学習内容に偏りがあるのは日本に限らず、
          Apple Logoはほぼそのまま出るのに、
          Power Buttonのアイコンなど、
          規格が決めているものにも関わらず、
          容易に出てこなかったりする。

          英文字はSONYとか容易に出るのに、
          かな漢字は一つも出ないとか、
          記号的なものがアルファベットに特化される形に
          過学習されてしまっている弊害も起きていそう。

          親コメント

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

処理中...