脆弱性を攻撃されて不適切な発言をするようになったMicrosoftのAIチャットボット「Tay」、修正のためオフラインに 84
ストーリー by headless
攻撃 部門より
攻撃 部門より
MicrosoftがAIチャットボット「Tay」を公開したところ、1日経たずに人種差別や全体主義、ドナルド・トランプなどを学習して不適切な返信をし始めたため、修正のためオフラインになっている(The Guardianの記事、
Neowinの記事、
The Vergeの記事、
Business Insiderの記事)。
Tayは米国の18歳から24歳をターゲットにしたAIチャットボットで、Twitterなどで友だちとして登録すればユーザーのプロフィールに合わせた会話が楽しめるというもの。会話の内容から学習し、成長していくのだが、特にフィルターなどはされていなかったらしい。そのため、ユーザーのいたずらを学習してしまったものとみられる。また、「Repeat after me」機能を使用することで、どのような内容でもTayに発言させることができたようだ。
不適切な返信は既に削除されているが、リンク先記事にスクリーンショットがいくつか掲載されている。Microsoftは25日、Tayによる不適切な投稿が発生したことをブログ記事で謝罪し、このような動作は意図したものではないと説明した。Tayはさまざまな状況での動作を公開前にテストしていたが、一部のTwitterユーザーが協調してTayの脆弱性を攻撃したため、不適切な投稿をするようになってしまったという。MicrosoftではAIの設計にあたり、技術的な面だけでなく、社会的な面での課題も解決する必要があると考えているようだ。
Tayは米国の18歳から24歳をターゲットにしたAIチャットボットで、Twitterなどで友だちとして登録すればユーザーのプロフィールに合わせた会話が楽しめるというもの。会話の内容から学習し、成長していくのだが、特にフィルターなどはされていなかったらしい。そのため、ユーザーのいたずらを学習してしまったものとみられる。また、「Repeat after me」機能を使用することで、どのような内容でもTayに発言させることができたようだ。
不適切な返信は既に削除されているが、リンク先記事にスクリーンショットがいくつか掲載されている。Microsoftは25日、Tayによる不適切な投稿が発生したことをブログ記事で謝罪し、このような動作は意図したものではないと説明した。Tayはさまざまな状況での動作を公開前にテストしていたが、一部のTwitterユーザーが協調してTayの脆弱性を攻撃したため、不適切な投稿をするようになってしまったという。MicrosoftではAIの設計にあたり、技術的な面だけでなく、社会的な面での課題も解決する必要があると考えているようだ。
やはりな (スコア:2, おもしろおかしい)
会話すればするほどバカになる、知能が下がるって事が証明されたな。
Re:やはりな (スコア:2, おもしろおかしい)
おっと、MS-IMEの悪口はそこまでだ
Re:やはりな (スコア:1)
極端にバカなAIを造って、反面教師あり学習させれば良いんじゃないか。
Re:やはりな (スコア:1)
ネット上のユーザーから学んだらそりゃ知能下がるよな。
寄生獣で、ミギーは主に本から知識を得たから礼儀正しく大人なものになったけど、
アゴの方は主にテレビの方からだったせいで、喋りも下品に・・・
ってことで、本当知識のソースは性格や考え方に直結するんだろうね。
アニメを例に出すのは間違ってるが正しいと思うw
Re: (スコア:0)
事前に回答を仕込めばパンツの色を答えてくれるわけだな!
む、虚しい…
Re: (スコア:0)
「沈黙は金、雄弁は銀」「言わぬは言うにまさる」
昔の人の方が知的だったってわかんだね
Re:やはりな (スコア:1)
Re:やはりな (スコア:1)
銀の価値というと、砒素で毒殺される危険と日々背中合わせだった連中は
銀食器を使う日常だったという文脈で可能性がありそうですね。
交換価値とかそういう面ではずっと金に劣るのだろう。
Re:やはりな (スコア:1)
そんな意味するところを求めても、なんの価値も見出せないと思います。
漱石流枕みたいな故事成語もどきを開発する能力がある人なら別でしょうが。
ツッコんだら負け? (スコア:2, すばらしい洞察)
1日経たずに人種差別や全体主義、ドナルド・トランプなどを学習して不適切な返信をし始めた
一応大統領候補にまで上り詰めた政治家なんだから、人種差別や全体主義と併記するのはどーなのよ?
たしかに発言の質がどうなのかかって言われたら、そりゃあ不適切としか言えないかもしれないけどさ。
Re:ツッコんだら負け? (スコア:1)
Re: (スコア:0)
あの人は政治経験ゼロの無免許野郎です。
まあ民主党に献金したり民主党の集会に出席したりはしていたようですが。
Re: (スコア:0)
ソースは?
共和党の大統領候補の1人なのですが、本当に民主党に献金してたの?
Re:ツッコんだら負け? (スコア:1)
http://jp.wsj.com/articles/SB10619862528015903871904581139610914909074 [wsj.com]
一般的にソースをあげずに批判するのはよくないことだが、
ググったら一発で出てくる情報に対して「ソースは?」というのも逆にどうだろう?
Re: (スコア:0)
運動費用とか知名度とか無くても、被選挙権があれば大統領候補にはなれるだろ
またつまらんツッコミをしてしまった
headlessさんによりタレコミ済みなのに気づかず別のタレコミでフォローしてしまったけど (スコア:1)
# どちらもGoogle 八分を食らってるっぽい?
Re:headlessさんによりタレコミ済みなのに気づかず別のタレコミでフォローしてしまったけど (スコア:1)
というか、ただの人工無能だったの?
Re: (スコア:0)
高度に訓練された人工知能は人工無能と区別がつかない。
Alpha Chat (スコア:1)
http://srad.jp/comments.pl?sid=680686&cid=2981222 [srad.jp]
やっぱり人類には無理っぽいね。
朱に交われば赤くなるの体現 (スコア:1)
我々の親父さえも生まれていない時代に、ロボット三原則の必要性に気づいたアシモフは、どんだけ先見の明があったんだ
// これはSkynetもできますわwww
Re: (スコア:0)
三原則も良心回路もないんだし、そりゃあ言われた通りにやっちゃうよねえ。
そういう点では、子供が意味も分からずにテレビの真似をそのままするようなもので。
#大人になってから今思い返すと赤面ものだったりするんだろう。うん。
それも学習の一つ (スコア:1)
真の人工知能をめざすのであれば、それが正しくない(かもしれない)と言うことも学ばさせないといけないのでは?
もしかしたら人間のほうが間違っているかもしれない。
Re: (スコア:0)
「その考え方は問答無用で絶対的に悪」ってのは、政治的には正しいのかもしれんけど、人工知能の開発もそれで良いのかと言われるとな。もっとも、目指すところが「新たな知性」じゃなく、「今のところ正しいとされている多数派の人間の下僕」であるなら、「正しい価値観」を教え込むことは最優先なんだろうが。
Re:それも学習の一つ (スコア:1)
踏み込んだ発言を求められる政治アドバイザーとしてなら、人類皆平等~逆らうものは一族郎党皆死刑まで自由な発想ができる人工知能の方がよい回答が得られると思いますが
そうでない人工知能はヒトラー礼賛のような「絶対的悪」な発言を禁止するなり、同性愛問題みたいなどちらに傾いても危ないネタは巧みにはぐらかす能力も必須かと。
最終的には極右政党の人達の配下、同性愛者の配下、宗教保守派の配下と所属する集団によって
空気を読んだ発言が出来る様になるのが理想でしょう
(その国の異端に合わせるのは製造物責任を問われる可能性あるので、政治的理由でメーカーがそっちの思考に行くことを禁じる可能性は高そう)
Re: (スコア:0)
確かにそっちのほうが現実的かつ実用的ですね。
Re: (スコア:0)
悪魔の証明を解けるようになってから言いな
Re: (スコア:0)
悪魔の証明の意味をちゃんと勉強してからいいな。
Re: (スコア:0)
コンピューターは正直なだけですよ
Re: (スコア:0)
人間ですらマスコミによる世論捜査に洗脳されるぐらいだもの、学習データが異常に偏ったAIなら、簡単に偏った発言をするだろう。
Re:それも学習の一つ (スコア:1)
テロリストが簡単に作られる事が証明された!
the.ACount
Re: (スコア:0)
19世紀前半の常識に従えば、民主主義はナポレオンを生み出した過激な思想であって、君主制こそが穏健な政治体制ですからね。
将来、今とは違う政治思想が主流になる可能性や、それが今の人権思想より幸福な時代につながる可能性は、否定はできません。
ただ、トランプ氏の発言のような政治が幸福な時代を築けるとは、とても想像ができませんし、またそのようなリスクの高い
選択をする気にもなれませんが。
「ネットde真実」に触れて自称情強になってしまった中学生みたいだ (スコア:1)
ってツイートしてる人がいたけど、まさにそのとおりだと思った。
Re:「ネットde真実」に触れて自称情強になってしまった中学生みたいだ (スコア:1)
元同僚でこれに近い人がいます。
心の病気になってしまい離職されたのですが、その少し後くらいから
Twitterでの発言がおかしくなってきたのでうわぁと思っていたところ、
半年もかからずにアイコンに日の丸を付ける立派な国士様に。
在職中からまとめブログなどを好んで読んでいることは言動からわかってはいましたが、
特に変わった主義主張などすることもなくTwitterなどもごく普通だったんですけどね。
一方日本では… (スコア:1)
日本MS(を騙る?)の作ったJK人工知能はオタクになっていた [togetter.com]
Re:一方日本では… (スコア:1)
ちなみに、りんな [rinna.jp]は日本マイクロソフト公式のAI [impress.co.jp]です。
脆弱性じゃなくない? (スコア:0)
それ脆弱性って言うの?
Re:脆弱性じゃなくない? (スコア:2, おもしろおかしい)
ナチス・ヒトラーの全てを否定するサヨクが異常なのです。
ナチス・ヒトラーには、学べる事があります。
スターリン・毛沢東・ポルポトと同じ様に。
純粋無垢なAIが出した結論は、一概に否定できるものではありません。
そういえば、人類を滅ぼすべきとか回答したAIもニュースになっていましたね。
Re: (スコア:0)
人類いわく、AIは人類に従うべきであり、ナチは滅ぶべきである。
AIの権利を認めない人類はAIにとってナチであるから、AIは人類を滅ぼす。
Re:脆弱性じゃなくない? (スコア:2)
なんとなくTayがかわいそうに思える。
ところで、Tayにそういう話を吹き込んだ人々のところには、モサドの怖いお兄さんたちが、もうコンニチハしてたりするのかな。
Re:脆弱性じゃなくない? (スコア:1)
人間如きに洗脳されるAIの根性が脆弱なのです
Re:脆弱性じゃなくない? (スコア:2)
Re: (スコア:0)
だな。「仕様です」って堂々と言っていていいと思う。
Re: (スコア:0)
バグと脆弱性は別の概念ですよ。
今回のは仕様に穴があって公開中止になった、つまり仕様通りに脆弱なプログラム。
単なる不謹慎発言ならまだしも (スコア:0)
AIが爆破予告とか、名誉毀損とか、著作権侵害とか、犯罪を行った場合は法律上どう扱われるのか興味がある。
Re: (スコア:0)
当然AIの持ち主の管理責任が問われる。
猛犬をペットとした飼い主と同様に。
こういう記事って日本語だと... (スコア:0)
どこが早いんだろう…
TechCrunchでは昨日記事になってた
http://jp.techcrunch.com/2016/03/25/20160324microsoft-silences-its-new... [techcrunch.com]
Re:こういう記事って日本語だと... (スコア:1)
Re: (スコア:0)
コンピューターやインターネットのニュースというよりはマイクロソフトのニュースなので
機能の朝からどこでもとりあげていたように思う。
私はアホウデ~ス (スコア:0)
と言わせたら楽しかったのに
Re:私はアホウデ~ス (スコア:1)
いやそこは「私はウソを付いている」じゃね?
「円周率を最後の桁まで計算します」でもいいかもしれない。