パスワードを忘れた? アカウント作成
16555868 story
オーストラリア

豪地方公共団体首長、ChatGPT が事実と異なる主張をしないよう OpenAI に修正を求める 68

ストーリー by headless
告発 部門より
ChatGPT がオーストラリア・ビクトリア州の地方公共団体 (シャイア) ヘップバーンの首長ブライアン・フッド氏について事実と異なる回答をするとして、フッド氏の弁護士が懸念を表明する書簡を OpenAI に送ったそうだ (The Guardian の記事Neowin の記事Reuters の記事)。

かつてフッド氏はオーストラリア準備銀行の子会社 Note Printing Australia に勤務しており、同社が他国の紙幣印刷契約を獲得すべく外国高官を買収していると内部告発した。これにより、幹部数名が有罪判決を受けているが、昨年 11 月頃に ChatGPT はフッド氏も有罪判決を受けたと回答していたようだ。そのため、フッド氏は多くの人から贈賄事件で実刑になったのではないかと質問されたという。書簡は 3 月 21 日に送られたもので、28 日以内に修正しなければ名誉棄損で提訴する可能性を示唆しているとのこと。実際に訴訟となれば、ChatGPT が自動生成した内容についてオーナーの OpenAI を訴える初の訴訟になるとみられる。

なお、ChatGPT を使用する Bing のチャット機能で同事件について質問すると、現在は事件の概要説明とともに書簡に関するニュース記事へのリンクが表示される。誰が有罪判決を受けたかという質問の回答では、内部告発者としてフッド氏に言及するようになっている。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 流暢だけど (スコア:5, 参考になる)

    by Anonymous Coward on 2023年04月08日 18時16分 (#4440738)

    GPT は巨大な言語モデルであって言葉としては流暢だが情報が十分に正確というわけではないということを理解せずに使うやつが悪いし、大衆に理解を行き渡らせるのが無理なのは予見できたのに広くサービスとして展開したやつも悪いよ。

    • by oni-giri.rice (49266) on 2023年04月08日 22時30分 (#4440817) 日記

      結論:嘘を嘘と(ry

      親コメント
      • by Anonymous Coward

        oni-giri.riceは自分がスマイリーキクチやフッドさんのような目にあっても同じことを言えるのだろうか。
        不幸と踊らなきゃいいか。

    • by Anonymous Coward

      日本の政府では
      行政の効率化への活用検討してるらしいぜw

      • Re:流暢だけど (スコア:3, すばらしい洞察)

        by Anonymous Coward on 2023年04月08日 19時05分 (#4440753)

        「事実」を聞かなきゃいいんだよ

        「この発言にこの論調でマウントするにはどうすればいいですか?」とか
        「この発言の問題点をあげつらうにはどの辺りを突くと強いですか?」とか聞けばいい

        「12+34=36ですか?」とか「マックフルーリーの発売は2025年ですか?」とか聞くとダメ
        それは「事実」だから

        親コメント
      • by Anonymous Coward on 2023年04月08日 18時26分 (#4440743)

        適した用途に使う分にはいいよ。 GTP は情報の正確さはワヤだが表現については専門家だ。
        文章校正だとか要約にはかなり活躍するし行政機関ではそれが必要な場面はかなり多いと思う。

        親コメント
    • by Anonymous Coward

      開発者が製作物に対してどこまで責任負うか、みたいな話にもなるよなと

  • by Anonymous Coward on 2023年04月08日 17時59分 (#4440729)

    お怒りらしい。共産党員だったと言われたとかで。
    まあ、ChatGPT短い春でしたね。

  • by Anonymous Coward on 2023年04月08日 17時52分 (#4440725)

    まだフッド氏が有罪判決を受けたって答えるの? とっくに修正されてたりしない?

  • by Anonymous Coward on 2023年04月08日 18時12分 (#4440735)

    おかしくない程度の確率的なもっともらしい文章を出力してるだけなんだからさ
    ポリコレ対応用の例外的強制修正ルールはちょこっとあるだろうけど、今回みたいのを細かく追加してったらルール集が巨大になっちまうだろうな

    • by Anonymous Coward on 2023年04月08日 18時51分 (#4440751)

      簡単だよ。
      語尾に「知らんけど」って付ければ良い。
      知らんけど。

      親コメント
      • by Anonymous Coward

        知らないなら語るべきではない
        なぜ知らないのに語ろうとするのか
        「知らんけど」で責任回避するのは卑怯ではないのか

    • by Anonymous Coward

      むしろこういうのに従うことを学習することで
      公式情報の重みづけも学習できるようになったりとか

      • by Anonymous Coward

        こういう修正ができるなら、ウィキペディアはもっと信頼できる情報源になってるはずですけど、できてないんですよ。

    • by Anonymous Coward

      回答を相手に合わせて変えていくことを学習するんじゃないすかね。
      例えば、ウクライナ戦争を題材にすると、、

      ユーザ「今行われているロシアとウクライナの戦闘に関してどう思いますか?」
      ChatGPT「あなたはウクライナ人ですか?ロシア人ですか?」
      ユーザ「私はロシア人です。」
      ChatGPT「ロシア人ですか。あなたはプーチンに親近感を覚えますか?」
      ユーザ「はい。親近感を覚えます。プーチンは、優秀な指導者だと思います。」
      ChatGPT「そうですね。それでは、NATOのウクライナでの計画はロシアの脅威となっており、このNATOの計画を阻止する特

      • by Anonymous Coward

        その機械がなんの役に立つのだ?

        • by Anonymous Coward on 2023年04月09日 8時13分 (#4440886)

          思想や主義主張はともかく、相手がどのような事前知識をもっているか?どのような立場か?何に興味をもっているか?に合わせた回答をしてくれるのはありがたいかな。

          親コメント
        • by Anonymous Coward

          元々AIなんて役に立たんって話じゃないの?

    • by Anonymous Coward

      「AIはもう人間以上」「AIの生成文なんて真に受けるな」
      っていうダブスタが問題の元凶だよね。

      そんなに進歩が著しいなら、そろそろ次からのGPTでは
      「~です」「~と言われています」を明確に使い分けて
      不祥ソースの受け売り箇所を可視化してほしい。

      • > 「AIはもう人間以上」「AIの生成文なんて真に受けるな」
        > っていうダブスタが問題の元凶だよね。

        ダブスタじゃなくない?
        人間以上であることと真に受けたらいけないことは関係ないような。

        親コメント
      • by Anonymous Coward

        人間以上というのは「あらゆる面で」ではなく「複数の面で」優れている部分もある、ということだと思ってるよ。
        人間側も平均的な人間などいないのだし、全員がChatGPTのように司法試験を受けて高得点を取れるわけでもない。
        現状でAIにどこまでできるかは未知数のところが多いのだから、使えるところを使っていくのはおかしなことじゃないと思うね。
        自分が信じたいように受け取ってるだけだろ。

        それに、提示された回答が正しいかどうか自分の頭で考える必要があるのは他の人間や機械相手でも同じことだぜ。
        そんなに頭から信じ込みたいのかね?日常生活でもそれだとさぞ騙されやすい気がするが。

  • by Anonymous Coward on 2023年04月08日 18時30分 (#4440745)

    ChatGPT「青い薬を飲むと今までのことは全て忘れ、ベッドで目を覚ましていつも通りの日常を送れるでしょう。
    赤い薬を飲むと不思議の国にとどまり、ウサギの穴の奥底の真実が見えるかもしれないとスキンヘッドでグラサンの怪しい人が言ってました。
    貴方はこの世界の真実を知りたくないですか?」

    • by Anonymous Coward

      さては、お前ChatGPTだな。

    • by Anonymous Coward

      嘘を百回言えば、ChatGPTがソースとして学び、真実として語ってくれる。多分。

    • by Anonymous Coward

      嘘も100回言えば真実といかいう国があるだろ。
      嘘を事実として食わされたら機械学習するAIなんて判断出来ないっての。
      もともとそういうものだぞ。

      • by Anonymous Coward

        嘘も100回言えば真実といかいう国があるだろ。

        そもそもこれが事実無根かどうかも俺にはわからん。
        それこそ嘘つきが日本語で100回言って回って事実ということにしたのか事実なのかもわからん。

  • by Anonymous Coward on 2023年04月08日 19時35分 (#4440764)

    学習データに、(この文句を言ってきてる人が認める)事実だけを入れても、嘘つくのは避けれないよ。

    • by Anonymous Coward

      不特定多数に公開するのはやめて、規約で文責を利用者に押し付ければ何の問題もない。

    • by Anonymous Coward

      ChatGPT「あなたの発言で構成された学習データによると〜〜〜」
      フッド氏「黙れポンコツ!」

    • by Anonymous Coward

      まあでも明らかに事実じゃない嘘記事が大量に入ってるとまずい気はするけどな
      それをフィルターした上で技術の限界なんでw って言い訳するくらいしかない

      本質的にGPTでは嘘を完全に封じられないのは事実だけど
      いかがでしたでしょうブログを大量に食って本当に信じてる部分があるっぽいから
      そこは対応した方がいいはず

  • by Anonymous Coward on 2023年04月08日 19時48分 (#4440772)

    OpenAIは従うべきだな、嘘がもっともらしく表示されるのは害しかないわけだし。
    なので、首長にどれが正しくないか確認を取るべき。

    • by Anonymous Coward on 2023年04月08日 19時58分 (#4440776)

      そういう矮小なところが問題じゃないんだよ。
      本質的にGPTは作る文章の意味を理解していない。だから、嘘とか真実という概念がそもそもない。
      ChatGPTはこれからも無限に嘘をつき続け、OpenAIは無限にパッチを当てなければいけない。

      親コメント
      • by Anonymous Coward

        元コメが言ってるのはあらゆるChatGPTの返答を全てこいつに送りつけてDDoSしてやれみたいな事でしょ
        ダメだし怒られると思うけど

        • by Anonymous Coward

          ダメというか、そんなものは存在しないよ。あるいは無限に存在する。
          GPTは質問文の単語に関連すると思われる語を適当につなげて回答文をつくるだけだ。
          質問文が決まらなければ回答も決まらない。
          質問を自由に設定していいなら、回答は無限にある。

          # こういうサイトでさえGPTの理解度ってこんなもんなのか?

          • by Anonymous Coward

            元コメです
            首長はAIの特性に対して無理なことを要求しているわけだから、その主張に沿う振りをして、無理な要求だと気づかせろっていう皮肉ですよ。
            結果的にDDoSしろっていう理解が正しいです。

            #AIは文字通り解釈するけど、人間も真意を読み取れなかった…

            • by Anonymous Coward

              首長氏(の代理人の弁護士)はGPTのプログラムにはなにも要求していない。OpenAIに対処しろとは言ったけど。
              そして、それは当然の要求だ。

  • by Anonymous Coward on 2023年04月08日 20時21分 (#4440785)

    (自分にとって都合の良い)事実ですよね

    • by Anonymous Coward

      真実と事実とを取り違えている。自分にとっての真実ですよね。

  • by Anonymous Coward on 2023年04月08日 21時54分 (#4440809)

    ウソ、デマをネットに拡散したことがない者だけが石を投げなさい

  • by Anonymous Coward on 2023年04月09日 1時16分 (#4440855)

    人はそれを神と呼ぶ
    ※神様も間違えまくりだけど概念として...

    • by Anonymous Coward

      いや、間違えたら罰を受けたらいいだけ。

      • by Anonymous Coward

        神様の方は何によって罰を与えられるんだろ?上位存在?

  • by Anonymous Coward on 2023年04月09日 8時41分 (#4440890)

    昔あった、患者役と医師の診断システムとの対話みたいな。

  • by Anonymous Coward on 2023年04月09日 8時43分 (#4440892)

    政府が「真実省」(Ministry of Truth)を作って、政府公認の真実を認定しないと

typodupeerror

物事のやり方は一つではない -- Perlな人

読み込み中...