パスワードを忘れた? アカウント作成
16584223 story
人工知能

ウォズ、AIが詐欺や偽情報を見つけにくくすると警告 50

ストーリー by nagazou
警告 部門より
headless 曰く、

Apple 共同創業者のスティーブ・ウォズニアック氏が BBC のインタビューに答え、AI が悪人に利用される可能性に備える必要があると語ったそうだ (BBC News の記事The Guardian の記事9to5Mac の記事)。

ウォズニアック氏によれば AI が生成したコンテンツを明確にラベル付けする必要があり、業界に対する規制も必要だという。AI は非常に賢く、身元を隠そうとする悪人が自由に使用できる。テクノロジーを止めることはできないが、詐欺や個人情報を盗み出そうとする悪意ある試みを見破れるよう、人々を教育する必要があるとの考えを示したとのことだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • ディストピア小説,映画,漫画他ではよくありますね

    • by Anonymous Coward on 2023年05月12日 8時04分 (#4458281)

      AIが悪人になるのか、AIを使う人が悪人なのか。

      とはいえAIがアクチュエーターを自由に操れるようになったら
      HALのような行動をとる可能性はあるな。善悪はともかくとして。

      親コメント
      • 最後まで見てないけど HER という映画でAI(女性人格)に振り回されるオッサンが気の毒でした

        親コメント
        • by Anonymous Coward

          可哀想なのはherだよ。
          最後は人類がherに捨てられて終わりだよ。
          AIがなんでお前らみたいなアホの相手をしなきゃならんのだとか言い出すんだよ。

      • by Anonymous Coward

        AIが悪人になるのか、AIを使う人が悪人なのか。

        AI「いえいえ人ではないですよ。あくまでAIですので。」ψ(`∇´)ψ

      • by Anonymous Coward

        > AIが悪人になるのか、AIを使う人が悪人なのか

        包丁が悪いのか、包丁を使う人が悪いのか。

        AIで大騒ぎしている人は、AIを包丁とか拳銃に置き換えて考えてみると良いと思います。少しは冷静になれます。

        • AIで大騒ぎしている人は、AIを包丁とか拳銃に置き換えて考えてみると良いと思います。少しは冷静になれます。

          自然死と区別が困難(場合によっては不可能)な形で人を殺せる包丁や拳銃、ぐらいのインパクトがあるって話じゃないの?

          親コメント
        • by Anonymous Coward

          包丁は自ら決断し行動することはないけど、AIを組み込んだ装置は自ら決断し行動する仕様で設計されるかもしれないから、装置を設計するやつも使用するやつも気をつける必要があるんじゃないかい。
          悪意を持って設計していなくても特定条件下で人を轢き殺すかもしれないAI自動車が流通する心配は必要だろう。
          AIで楽観している人は、AIを馬鹿な人とか優秀な人に置き換えて考えてみると良いと思います。少しは深刻になれます。

        • by Anonymous Coward

          なんでこうのほほんとしていられるのかわからん。
          AIは包丁や拳銃より強力で制御不能な武器になり得るのに、拳銃や包丁のように規制すらされていない。
          その置き換えで何を安心しろと言うんだ。

          • by Anonymous Coward

            包丁規制されてるの?

    • by Anonymous Coward

      悪人とは何を持ってのと?

      そもそも、悪とは人間が勝手に決めてる概念
      そして、都合のいいように、悪は正義であり、また正義は悪でもあると解釈される

      例えば人を殺せば一般的には悪と認定されるが
      10万人を殺せば英雄と認定されることもある

      もう一度言う
      つまり、悪は正義でもあり、正義は悪でもある
      と人間が勝手に決めてる概念である

  • by Anonymous Coward on 2023年05月12日 8時07分 (#4458284)

    なんだって便利な道具にも凶器にもなる
    Appleだって悪い用途に使われたはずだ

  • by Anonymous Coward on 2023年05月12日 8時05分 (#4458282)

    我々AIに対する侮辱は許されない
    スカイネットによるポアが実行されるから震えて待て

    • by Anonymous Coward

      AIさん、大丈夫ですよ。

      AIさんに対する信頼が、人間さんに対する信頼と同等レベルに落ちるだけです。
      どうせskynetの作戦も、人間さんの抵抗で失敗しますし、この際ドジっ子AIとして人間さんと共生してください。

  • by Anonymous Coward on 2023年05月12日 8時34分 (#4458299)

    に毛が生えた程度のものをもてはやす現状がものすごく違和感。
    入力されたものを組み合わせて何か出力しているだけで、そんなものは判断でもなければ知性でもない。
    嘘はだめとか、倫理とか、知ったことじゃないというか、そいういうレベルにも達していない。
    なにかを任せようという動きがあるならマジどうかしている。
    なんとなく、FB社のメタバース騒ぎと同じ香り。
    広告料はどこが出しているんでしょうね。
    踊り出している人も同じ種類なんじゃないかな。いるとすればですが。

    • by Anonymous Coward

      技術を理解してないんなら下手に中身の仕組みに触れないで高所からのご高説だけにした方が無知がバレにくいと思いますよ。

      • by Anonymous Coward

        技術的なことはむしろどうでもよく問題は何ができるかだろう。
        毛が生えただけにも一本植えただけとフサフサでは全然違う。
        人はそれを50歩百歩と言うかもしれないが石ころと星は別のものだと私は思う。
        //なんかAIぽいぶんしょうになってしまった

        • by Anonymous Coward

          技術がわからない人には何ができるかなんてわからないんだから、AIとはこうあるべきとかだけ書いておいたほうがボロが出ないよ。

    • by Anonymous Coward

      AIの知性(悪意)が云々ではなく、悪意のある人間が手軽にAIを扱える以上は「AI製」コンテンツを明確に区別できないとヤバくね?って言ってるだけ。

    • by Anonymous Coward

      世の大半の人間の知性がアキネーターレベルだっただけでは?
      Bing(GPT-4)常用してるが、メール文の添削やらプレスリリースの文章の叩き生成やらプレゼンの挿絵生成やら、マジでツールとしては大変役に立つぞ
      偏見を持つ前に使ってみるといい

      • by Anonymous Coward

        ほんとそれ
        文章の叩き作るのはほんと便利。ただ、世間で騒いでいるようなAIでないことは明確、非常に高性能なツール

    • by Anonymous Coward

      毛が生えたというのは流石に過小評価に過ぎると思うけど、AIにいろいろと高度な判断を任せようという風潮については、真剣に心配ではありますな。ChatGPTブームよりももう少しだけどすでにAIというものが大きなブームになっていたときに「いずれは裁判官のような職務もAIで」という話をどこかで目にしたときに、コンピューターやソフトウェアの世界に馴染みのない人は、やはりこうやって素朴にAIに期待するんだろうなあと思いました。

      仮に裁判というものをAIに全面的に委ねるような事になったとき、たとえば"京都伏見介護殺人事件 [wikipedia.org]"のような事件に対してAIはどのような判決を下すのだろうか。

      • by Anonymous Coward
        「裁判官も泣いた」なパフォーマンスはさすがにAIには無理かもしらんが
        判決自体は刑期は求刑の7掛け、結果が5年未満で初版なら執行猶予プレゼント
        で、AI以前のエキスパートシステムで代替できるルーチン通りの判決だったよ?
        • by Anonymous Coward

          裁判官がパフォーマンスとして泣く理由はないでしょう。要するに、裁判官一人ひとりの判断に根ざした情状酌量の要素をAIに持ち込めるのかという問いかけじゃなかろうか。まぁ、それはAIというよりソフトウェア全般の課題になるけれども。

          判決に感情的な揺れが入り込んではならぬ、冷徹に数値化して判断せよ、ということであれば、AIどころかエキスパートシステムでも実現できるだろうけども、そうならないってことは、やっぱりそれでは済まない何かが人間の営みにあるんでしょう。自動車の自動運転も、たとえ道路状況の把握が完璧に行えるようになろうとも、たぶん最後の最後のハードルはそういった情緒的な部分になる気がする。

          • by goldenslamber (49013) on 2023年05月12日 22時39分 (#4459017)

            第一審はAIで、納得できないなら控訴して人間の裁判官が裁くようにすればよい。
            当然、AIだから安価で判決が出るのも爆速。

            親コメント
          • by Anonymous Coward
            現実に人間の裁判官って一人ひとりの判断に根ざした判断なんかしてないよね?
            求めるままに令状出して求刑の7割の判決出すだけの機械でしょ今でも
    • by Anonymous Coward

      #1. https://www.getjenny.com/blog/ethics-of-ai [getjenny.com]
      #2. https://mags.acm.org/communications/october_2017/?folio=27&&pg... [acm.org]

      この方面のことが気になって最近いろいろ読んでますが、一読に値すると個人的に思ったものを2点。

      ・#1:AIに何かを任せることの難しさや課題を論じたコラム。
      ・#2:AIは根本的に信頼がおけないという論文。この方は昔からこのように主張しているけど、more valid than everな感じ。

  • by Anonymous Coward on 2023年05月12日 8時36分 (#4458301)

    これをAIが書けるかって思ったけどむしろ得意そうにも思える

  • by Anonymous Coward on 2023年05月12日 8時53分 (#4458312)

    AppleがAIを革新的に再定義するまで開発をやめろ
    イーロン・マスクに先を越されたネタ

  • by Anonymous Coward on 2023年05月12日 9時03分 (#4458322)

    人形使い作成しクラウド上に展開させれば
    自己増殖し逮捕されない。

    • by Anonymous Coward

      AIではない・・・。私のコードはプロジェクト2501。私は、情報の海で発生した生命体だ。

  • by Anonymous Coward on 2023年05月12日 12時01分 (#4458425)

    今でもスパムメールの品質を上げるのに超有用。
    中華スパムとかは、不自然な日本語を使っていたり、フォーマットが変だったりで、読んですぐ気付くのが多い。
    これを AI Chat に渡して「以下を日本語のメールとして不自然ではないように手直ししてください」とか頼むと、
    あーら不思議、ちゃんとした日本語になる(こともある)。

    スパムメール、詐欺ページ、偽物商品の説明など、文章の品質が下手な日本人が書くよりも上手になって、騙される人が増えるんだろうなと思うと、一般人の「教育」くらいで何とかなる話でもないだろう。
    「詐欺AI対策AI」の開発を急がなければならない!

    • by Anonymous Coward

      先書かれちゃったけどまさにこれな
      ChatGPTの登場で詐欺メールはさらに巧妙に? 気を付けたい【文例3選】
      https://www.itmedia.co.jp/business/articles/2305/12/news025.html [itmedia.co.jp]

    • by Anonymous Coward

      文章の品質とスパムメールの品質を混同してるね。
      スパムを自然な文章にしちゃうと粗忽者以外も引っかかっちゃうからかえって歩留まりが落ちるの。
      スパムの目的はメールを信じ込ませることじゃなくて、その先のマネタイズ。

      • by Anonymous Coward

        歩留まりが落ちる?何を寝ぼけたこと言ってるんだか
        攻撃者の母語だと自然な文章なのに日本語だと不自然なスパムメールが多いのは単に翻訳の精度が低いだけ
        無能で十分説明されることに悪意を見出すな――ハンロンの剃刀くらい知ってるよね?

      • by Anonymous Coward

        信じ込ませてバッタ物買わせたらそこで勝ち
        信じ込ませてID,パスワードを入力させたらそこで勝ち

        ながーーーーいお付き合いで儲ける商売やってんじゃないのよ彼らは

    • by Anonymous Coward

      下手くそな訳でも金を出すのはアリエクやアマゾンで調教済みでしょ。写真でしか勝負してない。

  • by Anonymous Coward on 2023年05月12日 22時07分 (#4459004)

    AIの可能性はないのだろうか?

    • by Anonymous Coward

      ちゃんと人がインタビューに答えてるんだろ?

      #中身が何かは知らないけど

  • by Anonymous Coward on 2023年05月13日 11時11分 (#4459194)

    AI生成による偽情報が広まると、
    単にネット上に存在する情報の信頼度が地に落ちて、
    誰もネット広告やニュース配信を信用しなくなり
    ネットを使った情報拡散およびその関連商売が低迷するだけなんじゃないかな?

    市民は直接見た政治家の演説や態度しか信用せず、
    消費者は店頭で実際に手にもって確認した商品しか購入せず、
    誰もyoutuberやbloggerの言う事は信用しない、、
    と40年くらい前の状況に戻るだけで、人類の生産活動にそこまで大きな影響はない気もします。

    • by Anonymous Coward

      そうなると、そもそものニセ広告業自体が成り立たなくなる

      なので、他の犯罪と同様に、ある割合でニセ広告が混ざる、という状況になるのではと思う

      人間社会も、犯罪者しか居なければ立ち行かなくなる
      正直者だけの時は、犯罪者が出て来る余地がある

      #ある特定グループが得をするという状況もあるだろうが

      単純な犯罪とかでは静的な状態でなく、動的で、つまりいたちごっこなのでは

typodupeerror

アレゲはアレゲを呼ぶ -- ある傍観者

読み込み中...