豪地方公共団体首長、ChatGPT が事実と異なる主張をしないよう OpenAI に修正を求める 68
ストーリー by headless
告発 部門より
告発 部門より
ChatGPT がオーストラリア・ビクトリア州の地方公共団体 (シャイア) ヘップバーンの首長ブライアン・フッド氏について事実と異なる回答をするとして、フッド氏の弁護士が懸念を表明する書簡を OpenAI に送ったそうだ
(The Guardian の記事、
Neowin の記事、
Reuters の記事)。
かつてフッド氏はオーストラリア準備銀行の子会社 Note Printing Australia に勤務しており、同社が他国の紙幣印刷契約を獲得すべく外国高官を買収していると内部告発した。これにより、幹部数名が有罪判決を受けているが、昨年 11 月頃に ChatGPT はフッド氏も有罪判決を受けたと回答していたようだ。そのため、フッド氏は多くの人から贈賄事件で実刑になったのではないかと質問されたという。書簡は 3 月 21 日に送られたもので、28 日以内に修正しなければ名誉棄損で提訴する可能性を示唆しているとのこと。実際に訴訟となれば、ChatGPT が自動生成した内容についてオーナーの OpenAI を訴える初の訴訟になるとみられる。
なお、ChatGPT を使用する Bing のチャット機能で同事件について質問すると、現在は事件の概要説明とともに書簡に関するニュース記事へのリンクが表示される。誰が有罪判決を受けたかという質問の回答では、内部告発者としてフッド氏に言及するようになっている。
かつてフッド氏はオーストラリア準備銀行の子会社 Note Printing Australia に勤務しており、同社が他国の紙幣印刷契約を獲得すべく外国高官を買収していると内部告発した。これにより、幹部数名が有罪判決を受けているが、昨年 11 月頃に ChatGPT はフッド氏も有罪判決を受けたと回答していたようだ。そのため、フッド氏は多くの人から贈賄事件で実刑になったのではないかと質問されたという。書簡は 3 月 21 日に送られたもので、28 日以内に修正しなければ名誉棄損で提訴する可能性を示唆しているとのこと。実際に訴訟となれば、ChatGPT が自動生成した内容についてオーナーの OpenAI を訴える初の訴訟になるとみられる。
なお、ChatGPT を使用する Bing のチャット機能で同事件について質問すると、現在は事件の概要説明とともに書簡に関するニュース記事へのリンクが表示される。誰が有罪判決を受けたかという質問の回答では、内部告発者としてフッド氏に言及するようになっている。
流暢だけど (スコア:5, 参考になる)
GPT は巨大な言語モデルであって言葉としては流暢だが情報が十分に正確というわけではないということを理解せずに使うやつが悪いし、大衆に理解を行き渡らせるのが無理なのは予見できたのに広くサービスとして展開したやつも悪いよ。
Re:流暢だけど (スコア:3)
結論：嘘を嘘と（ry
Re: (スコア:0)
oni-giri.riceは自分がスマイリーキクチやフッドさんのような目にあっても同じことを言えるのだろうか。
不幸と踊らなきゃいいか。
Re: (スコア:0)
日本の政府では
行政の効率化への活用検討してるらしいぜw
Re:流暢だけど (スコア:3, すばらしい洞察)
「事実」を聞かなきゃいいんだよ
「この発言にこの論調でマウントするにはどうすればいいですか?」とか
「この発言の問題点をあげつらうにはどの辺りを突くと強いですか?」とか聞けばいい
「12+34=36ですか?」とか「マックフルーリーの発売は2025年ですか?」とか聞くとダメ
それは「事実」だから
Re:流暢だけど (スコア:1)
適した用途に使う分にはいいよ。 GTP は情報の正確さはワヤだが表現については専門家だ。
文章校正だとか要約にはかなり活躍するし行政機関ではそれが必要な場面はかなり多いと思う。
Re: (スコア:0)
開発者が製作物に対してどこまで責任負うか、みたいな話にもなるよなと
ムネオさんも (スコア:1)
お怒りらしい。共産党員だったと言われたとかで。
まあ、ChatGPT短い春でしたね。
昨年11月頃に (スコア:0)
まだフッド氏が有罪判決を受けたって答えるの? とっくに修正されてたりしない?
そんなこと言ったって (スコア:0)
おかしくない程度の確率的なもっともらしい文章を出力してるだけなんだからさ
ポリコレ対応用の例外的強制修正ルールはちょこっとあるだろうけど、今回みたいのを細かく追加してったらルール集が巨大になっちまうだろうな
Re:そんなこと言ったって (スコア:1)
簡単だよ。
語尾に「知らんけど」って付ければ良い。
知らんけど。
関西人は卑怯 (スコア:0)
知らないなら語るべきではない
なぜ知らないのに語ろうとするのか
「知らんけど」で責任回避するのは卑怯ではないのか
Re: (スコア:0)
むしろこういうのに従うことを学習することで
公式情報の重みづけも学習できるようになったりとか
Re: (スコア:0)
こういう修正ができるなら、ウィキペディアはもっと信頼できる情報源になってるはずですけど、できてないんですよ。
Re: (スコア:0)
回答を相手に合わせて変えていくことを学習するんじゃないすかね。
例えば、ウクライナ戦争を題材にすると、、
ユーザ「今行われているロシアとウクライナの戦闘に関してどう思いますか？」
ChatGPT「あなたはウクライナ人ですか？ロシア人ですか？」
ユーザ「私はロシア人です。」
ChatGPT「ロシア人ですか。あなたはプーチンに親近感を覚えますか？」
ユーザ「はい。親近感を覚えます。プーチンは、優秀な指導者だと思います。」
ChatGPT「そうですね。それでは、NATOのウクライナでの計画はロシアの脅威となっており、このNATOの計画を阻止する特
Re: (スコア:0)
その機械がなんの役に立つのだ？
Re:そんなこと言ったって (スコア:1)
思想や主義主張はともかく、相手がどのような事前知識をもっているか？どのような立場か？何に興味をもっているか？に合わせた回答をしてくれるのはありがたいかな。
Re:そんなこと言ったって (スコア:1)
横からだが「真実はいつもひとつ！」というわけじゃないんだし、ユーザーに阿った回答がまずいとは思わない。
逆に問題だと思うならその理由を言ってみてごらん。
人間相手だって質問する相手が望む考えに沿って返すものだよ。普通に社会人なら誰でもやってることだろうと思うが。
まあ一般的に事実と異なることを言うのが良くないというのはあると思う。
ただChatGPTはそもそも「事実や知識」の回答は苦手なのだから、そこは使い方が間違ってるとしか思えない。
Re: (スコア:0)
元々AIなんて役に立たんって話じゃないの？
Re: (スコア:0)
「AIはもう人間以上」「AIの生成文なんて真に受けるな」
っていうダブスタが問題の元凶だよね。
そんなに進歩が著しいなら、そろそろ次からのGPTでは
「～です」「～と言われています」を明確に使い分けて
不祥ソースの受け売り箇所を可視化してほしい。
Re:そんなこと言ったって (スコア:1)
> 「AIはもう人間以上」「AIの生成文なんて真に受けるな」
> っていうダブスタが問題の元凶だよね。
ダブスタじゃなくない？
人間以上であることと真に受けたらいけないことは関係ないような。
Re: (スコア:0)
人間以上というのは「あらゆる面で」ではなく「複数の面で」優れている部分もある、ということだと思ってるよ。
人間側も平均的な人間などいないのだし、全員がChatGPTのように司法試験を受けて高得点を取れるわけでもない。
現状でAIにどこまでできるかは未知数のところが多いのだから、使えるところを使っていくのはおかしなことじゃないと思うね。
自分が信じたいように受け取ってるだけだろ。
それに、提示された回答が正しいかどうか自分の頭で考える必要があるのは他の人間や機械相手でも同じことだぜ。
そんなに頭から信じ込みたいのかね？日常生活でもそれだとさぞ騙されやすい気がするが。
現実が虚で塗りつぶされている可能性はないのか (スコア:0)
ChatGPT「青い薬を飲むと今までのことは全て忘れ、ベッドで目を覚ましていつも通りの日常を送れるでしょう。
赤い薬を飲むと不思議の国にとどまり、ウサギの穴の奥底の真実が見えるかもしれないとスキンヘッドでグラサンの怪しい人が言ってました。
貴方はこの世界の真実を知りたくないですか？」
Re: (スコア:0)
さては、お前ChatGPTだな。
Re: (スコア:0)
ｵﾏｴﾓﾅｰ
Re: (スコア:0)
嘘を百回言えば、ChatGPTがソースとして学び、真実として語ってくれる。多分。
Re: (スコア:0)
嘘も100回言えば真実といかいう国があるだろ。
嘘を事実として食わされたら機械学習するAIなんて判断出来ないっての。
もともとそういうものだぞ。
Re: (スコア:0)
嘘も100回言えば真実といかいう国があるだろ。
そもそもこれが事実無根かどうかも俺にはわからん。
それこそ嘘つきが日本語で100回言って回って事実ということにしたのか事実なのかもわからん。
無茶言うなよ (スコア:0)
学習データに、（この文句を言ってきてる人が認める）事実だけを入れても、嘘つくのは避けれないよ。
Re: (スコア:0)
不特定多数に公開するのはやめて、規約で文責を利用者に押し付ければ何の問題もない。
Re: (スコア:0)
ChatGPT「あなたの発言で構成された学習データによると〜〜〜」
フッド氏「黙れポンコツ！」
Re: (スコア:0)
まあでも明らかに事実じゃない嘘記事が大量に入ってるとまずい気はするけどな
それをフィルターした上で技術の限界なんでw って言い訳するくらいしかない
本質的にGPTでは嘘を完全に封じられないのは事実だけど
いかがでしたでしょうブログを大量に食って本当に信じてる部分があるっぽいから
そこは対応した方がいいはず
嘘はよくないよ (スコア:0)
OpenAIは従うべきだな、嘘がもっともらしく表示されるのは害しかないわけだし。
なので、首長にどれが正しくないか確認を取るべき。
Re:嘘はよくないよ (スコア:1)
そういう矮小なところが問題じゃないんだよ。
本質的にGPTは作る文章の意味を理解していない。だから、嘘とか真実という概念がそもそもない。
ChatGPTはこれからも無限に嘘をつき続け、OpenAIは無限にパッチを当てなければいけない。
Re: (スコア:0)
元コメが言ってるのはあらゆるChatGPTの返答を全てこいつに送りつけてDDoSしてやれみたいな事でしょ
ダメだし怒られると思うけど
Re: (スコア:0)
ダメというか、そんなものは存在しないよ。あるいは無限に存在する。
GPTは質問文の単語に関連すると思われる語を適当につなげて回答文をつくるだけだ。
質問文が決まらなければ回答も決まらない。
質問を自由に設定していいなら、回答は無限にある。
# こういうサイトでさえGPTの理解度ってこんなもんなのか？
Re: (スコア:0)
元コメです
首長はAIの特性に対して無理なことを要求しているわけだから、その主張に沿う振りをして、無理な要求だと気づかせろっていう皮肉ですよ。
結果的にDDoSしろっていう理解が正しいです。
#AIは文字通り解釈するけど、人間も真意を読み取れなかった…
Re: (スコア:0)
首長氏（の代理人の弁護士）はGPTのプログラムにはなにも要求していない。OpenAIに対処しろとは言ったけど。
そして、それは当然の要求だ。
事実とは (スコア:0)
(自分にとって都合の良い)事実ですよね
Re: (スコア:0)
真実と事実とを取り違えている。自分にとっての真実ですよね。
あなたたちの中で (スコア:0)
ウソ、デマをネットに拡散したことがない者だけが石を投げなさい
自分が絶対に間違えない存在になってから言って (スコア:0)
人はそれを神と呼ぶ
※神様も間違えまくりだけど概念として...
Re: (スコア:0)
いや、間違えたら罰を受けたらいいだけ。
Re: (スコア:0)
神様の方は何によって罰を与えられるんだろ？上位存在？
Re: (スコア:0)
神をクビになる。
複数のAIを会話させて合議制とする (スコア:0)
昔あった、患者役と医師の診断システムとの対話みたいな。
「真実省」が必要 (スコア:0)
政府が「真実省」(Ministry of Truth)を作って、政府公認の真実を認定しないと
Re: (スコア:0)
俺のイチモツがトカマクに閉じ籠もって出てきません、まで読んだ
Re: (スコア:0)
＞ 相対性理論批判に対してきちんと反論した論文が無いし、きちんと反論する科学者がいない
これ本当？
Re: (スコア:0)
現代でもアインシュタインは間違っていると言う人はいるが、そんなもん論文書いても査読に通らないし論文になっていないトンデモに反論する論文を書く人もいない
アインシュタインが間違っていると言う人的には、論文で否定されていないからアインシュタインが間違っていたという俺様の主張は真実なんだよ
＃相対論発表当時には科学的な反論・懐疑的意見はあったろうが.....