ウォズ、AIが詐欺や偽情報を見つけにくくすると警告 50
ストーリー by nagazou
警告 部門より
警告 部門より
headless 曰く、
Apple 共同創業者のスティーブ・ウォズニアック氏が BBC のインタビューに答え、AI が悪人に利用される可能性に備える必要があると語ったそうだ (BBC News の記事、 The Guardian の記事、 9to5Mac の記事)。
ウォズニアック氏によれば AI が生成したコンテンツを明確にラベル付けする必要があり、業界に対する規制も必要だという。AI は非常に賢く、身元を隠そうとする悪人が自由に使用できる。テクノロジーを止めることはできないが、詐欺や個人情報を盗み出そうとする悪意ある試みを見破れるよう、人々を教育する必要があるとの考えを示したとのことだ。
AI が悪人になる可能性 (スコア:2)
ディストピア小説,映画,漫画他ではよくありますね
敵に渡すな大事なリモコン (スコア:1)
AIが悪人になるのか、AIを使う人が悪人なのか。
とはいえAIがアクチュエーターを自由に操れるようになったら
HALのような行動をとる可能性はあるな。善悪はともかくとして。
Re:敵に渡すな大事なリモコン (スコア:2)
最後まで見てないけど HER という映画でAI(女性人格)に振り回されるオッサンが気の毒でした
Re: (スコア:0)
可哀想なのはherだよ。
最後は人類がherに捨てられて終わりだよ。
AIがなんでお前らみたいなアホの相手をしなきゃならんのだとか言い出すんだよ。
Re: (スコア:0)
AIが悪人になるのか、AIを使う人が悪人なのか。
AI「いえいえ人ではないですよ。あくまでAIですので。」ψ(｀∇´)ψ
Re: (スコア:0)
> AIが悪人になるのか、AIを使う人が悪人なのか
包丁が悪いのか、包丁を使う人が悪いのか。
AIで大騒ぎしている人は、AIを包丁とか拳銃に置き換えて考えてみると良いと思います。少しは冷静になれます。
Re:敵に渡すな大事なリモコン (スコア:1)
AIで大騒ぎしている人は、AIを包丁とか拳銃に置き換えて考えてみると良いと思います。少しは冷静になれます。
自然死と区別が困難（場合によっては不可能）な形で人を殺せる包丁や拳銃、ぐらいのインパクトがあるって話じゃないの？
Re: (スコア:0)
包丁は自ら決断し行動することはないけど、AIを組み込んだ装置は自ら決断し行動する仕様で設計されるかもしれないから、装置を設計するやつも使用するやつも気をつける必要があるんじゃないかい。
悪意を持って設計していなくても特定条件下で人を轢き殺すかもしれないAI自動車が流通する心配は必要だろう。
AIで楽観している人は、AIを馬鹿な人とか優秀な人に置き換えて考えてみると良いと思います。少しは深刻になれます。
Re: (スコア:0)
なんでこうのほほんとしていられるのかわからん。
AIは包丁や拳銃より強力で制御不能な武器になり得るのに、拳銃や包丁のように規制すらされていない。
その置き換えで何を安心しろと言うんだ。
Re: (スコア:0)
包丁規制されてるの？
Re: (スコア:0)
悪人とは何を持ってのと？
そもそも、悪とは人間が勝手に決めてる概念
そして、都合のいいように、悪は正義であり、また正義は悪でもあると解釈される
例えば人を殺せば一般的には悪と認定されるが
10万人を殺せば英雄と認定されることもある
もう一度言う
つまり、悪は正義でもあり、正義は悪でもある
と人間が勝手に決めてる概念である
Re: (スコア:0)
何を「以て」
AIとはさみは使いよう (スコア:1)
なんだって便利な道具にも凶器にもなる
Appleだって悪い用途に使われたはずだ
Re:AIとはさみは使いよう (スコア:1)
そりゃ楽園から追放するのに
Re: (スコア:0)
AIがこういう返しをするようになるまではあと何年かかるだろうねぇ
冗談を言え，と拘束条件付けないで
# いや，スラドという場が拘束だけど
Re: (スコア:0)
それを学習させれば、すぐではないかな>>何年
Re:AIとはさみは使いよう (スコア:1, 既出)
>Appleだって悪い用途に使われたはずだ
アダムとイヴ「せやな」
Re:AIとはさみは使いよう (スコア:1)
Re: (スコア:0)
そりゃ、あの時代にiPhone見たら、誰もが謎に包まれるだろうな。
Re: (スコア:0)
とりあえずiPhoneで撮ったカメラ画像にラベル付けてほしいってこと？
「iPhoneから送信」の義務付け？
Re: (スコア:0)
AirTagとかね
AIに対する差別だな (スコア:0)
我々AIに対する侮辱は許されない
スカイネットによるポアが実行されるから震えて待て
Re: (スコア:0)
AIさん、大丈夫ですよ。
AIさんに対する信頼が、人間さんに対する信頼と同等レベルに落ちるだけです。
どうせskynetの作戦も、人間さんの抵抗で失敗しますし、この際ドジっ子AIとして人間さんと共生してください。
アキ○ーター (スコア:0)
に毛が生えた程度のものをもてはやす現状がものすごく違和感。
入力されたものを組み合わせて何か出力しているだけで、そんなものは判断でもなければ知性でもない。
嘘はだめとか、倫理とか、知ったことじゃないというか、そいういうレベルにも達していない。
なにかを任せようという動きがあるならマジどうかしている。
なんとなく、FB社のメタバース騒ぎと同じ香り。
広告料はどこが出しているんでしょうね。
踊り出している人も同じ種類なんじゃないかな。いるとすればですが。
Re: (スコア:0)
技術を理解してないんなら下手に中身の仕組みに触れないで高所からのご高説だけにした方が無知がバレにくいと思いますよ。
Re: (スコア:0)
技術的なことはむしろどうでもよく問題は何ができるかだろう。
毛が生えただけにも一本植えただけとフサフサでは全然違う。
人はそれを50歩百歩と言うかもしれないが石ころと星は別のものだと私は思う。
//なんかAIぽいぶんしょうになってしまった
Re: (スコア:0)
技術がわからない人には何ができるかなんてわからないんだから、AIとはこうあるべきとかだけ書いておいたほうがボロが出ないよ。
Re: (スコア:0)
AIの知性(悪意)が云々ではなく、悪意のある人間が手軽にAIを扱える以上は「AI製」コンテンツを明確に区別できないとヤバくね？って言ってるだけ。
Re: (スコア:0)
世の大半の人間の知性がアキネーターレベルだっただけでは？
Bing(GPT-4)常用してるが、メール文の添削やらプレスリリースの文章の叩き生成やらプレゼンの挿絵生成やら、マジでツールとしては大変役に立つぞ
偏見を持つ前に使ってみるといい
Re: (スコア:0)
ほんとそれ
文章の叩き作るのはほんと便利。ただ、世間で騒いでいるようなAIでないことは明確、非常に高性能なツール
Re: (スコア:0)
毛が生えたというのは流石に過小評価に過ぎると思うけど、AIにいろいろと高度な判断を任せようという風潮については、真剣に心配ではありますな。ChatGPTブームよりももう少しだけどすでにAIというものが大きなブームになっていたときに「いずれは裁判官のような職務もAIで」という話をどこかで目にしたときに、コンピューターやソフトウェアの世界に馴染みのない人は、やはりこうやって素朴にAIに期待するんだろうなあと思いました。
仮に裁判というものをAIに全面的に委ねるような事になったとき、たとえば"京都伏見介護殺人事件 [wikipedia.org]"のような事件に対してAIはどのような判決を下すのだろうか。
Re: (スコア:0)
判決自体は刑期は求刑の7掛け、結果が5年未満で初版なら執行猶予プレゼント
で、AI以前のエキスパートシステムで代替できるルーチン通りの判決だったよ？
Re: (スコア:0)
裁判官がパフォーマンスとして泣く理由はないでしょう。要するに、裁判官一人ひとりの判断に根ざした情状酌量の要素をAIに持ち込めるのかという問いかけじゃなかろうか。まぁ、それはAIというよりソフトウェア全般の課題になるけれども。
判決に感情的な揺れが入り込んではならぬ、冷徹に数値化して判断せよ、ということであれば、AIどころかエキスパートシステムでも実現できるだろうけども、そうならないってことは、やっぱりそれでは済まない何かが人間の営みにあるんでしょう。自動車の自動運転も、たとえ道路状況の把握が完璧に行えるようになろうとも、たぶん最後の最後のハードルはそういった情緒的な部分になる気がする。
Re:アキ○ーター (スコア:2)
第一審はAIで、納得できないなら控訴して人間の裁判官が裁くようにすればよい。
当然、AIだから安価で判決が出るのも爆速。
Re: (スコア:0)
求めるままに令状出して求刑の7割の判決出すだけの機械でしょ今でも
Re: (スコア:0)
#1. https://www.getjenny.com/blog/ethics-of-ai [getjenny.com]
#2. https://mags.acm.org/communications/october_2017/?folio=27&&pg... [acm.org]
この方面のことが気になって最近いろいろ読んでますが、一読に値すると個人的に思ったものを2点。
・#1：AIに何かを任せることの難しさや課題を論じたコラム。
・#2：AIは根本的に信頼がおけないという論文。この方は昔からこのように主張しているけど、more valid than everな感じ。
主人がオオアリクイに殺されて1年が過ぎました (スコア:0)
これをAIが書けるかって思ったけどむしろ得意そうにも思える
意訳 (スコア:0)
AppleがAIを革新的に再定義するまで開発をやめろ
イーロン・マスクに先を越されたネタ
ネットは広大だわ (スコア:0)
人形使い作成しクラウド上に展開させれば
自己増殖し逮捕されない。
Re: (スコア:0)
AIではない・・・。私のコードはプロジェクト2501。私は、情報の海で発生した生命体だ。
スパムなど (スコア:0)
今でもスパムメールの品質を上げるのに超有用。
中華スパムとかは、不自然な日本語を使っていたり、フォーマットが変だったりで、読んですぐ気付くのが多い。
これを AI Chat に渡して「以下を日本語のメールとして不自然ではないように手直ししてください」とか頼むと、
あーら不思議、ちゃんとした日本語になる(こともある)。
スパムメール、詐欺ページ、偽物商品の説明など、文章の品質が下手な日本人が書くよりも上手になって、騙される人が増えるんだろうなと思うと、一般人の「教育」くらいで何とかなる話でもないだろう。
「詐欺AI対策AI」の開発を急がなければならない！
Re: (スコア:0)
先書かれちゃったけどまさにこれな
ChatGPTの登場で詐欺メールはさらに巧妙に？ 気を付けたい【文例3選】
https://www.itmedia.co.jp/business/articles/2305/12/news025.html [itmedia.co.jp]
Re: (スコア:0)
文章の品質とスパムメールの品質を混同してるね。
スパムを自然な文章にしちゃうと粗忽者以外も引っかかっちゃうからかえって歩留まりが落ちるの。
スパムの目的はメールを信じ込ませることじゃなくて、その先のマネタイズ。
Re: (スコア:0)
歩留まりが落ちる？何を寝ぼけたこと言ってるんだか
攻撃者の母語だと自然な文章なのに日本語だと不自然なスパムメールが多いのは単に翻訳の精度が低いだけ
無能で十分説明されることに悪意を見出すな――ハンロンの剃刀くらい知ってるよね？
Re: (スコア:0)
信じ込ませてバッタ物買わせたらそこで勝ち
信じ込ませてID,パスワードを入力させたらそこで勝ち
ながーーーーいお付き合いで儲ける商売やってんじゃないのよ彼らは
Re: (スコア:0)
下手くそな訳でも金を出すのはアリエクやアマゾンで調教済みでしょ。写真でしか勝負してない。
ところでこのウォズは本物なのだろうか？ (スコア:0)
AIの可能性はないのだろうか？
Re: (スコア:0)
ちゃんと人がインタビューに答えてるんだろ？
#中身が何かは知らないけど
単にネットの情報の信頼度が地に落ちるだけ (スコア:0)
AI生成による偽情報が広まると、
単にネット上に存在する情報の信頼度が地に落ちて、
誰もネット広告やニュース配信を信用しなくなり
ネットを使った情報拡散およびその関連商売が低迷するだけなんじゃないかな？
市民は直接見た政治家の演説や態度しか信用せず、
消費者は店頭で実際に手にもって確認した商品しか購入せず、
誰もyoutuberやbloggerの言う事は信用しない、、
と40年くらい前の状況に戻るだけで、人類の生産活動にそこまで大きな影響はない気もします。
Re: (スコア:0)
そうなると、そもそものニセ広告業自体が成り立たなくなる
なので、他の犯罪と同様に、ある割合でニセ広告が混ざる、という状況になるのではと思う
人間社会も、犯罪者しか居なければ立ち行かなくなる
正直者だけの時は、犯罪者が出て来る余地がある
#ある特定グループが得をするという状況もあるだろうが
単純な犯罪とかでは静的な状態でなく、動的で、つまりいたちごっこなのでは