パスワードを忘れた? アカウント作成
16580920 story
バグ

GPT-4は「ハノイの塔」が解けない? 72

ストーリー by nagazou
議論百出 部門より
route127 曰く、

再帰呼出しによるプログラミング例としても古くから例題にも用いられてきたリュカによるハノイの塔」についてGPT-4が誤った回答を返すようだ。
3段重なった石板の真ん中の段をだるま落としの様に抜こうともするようで杭と石板の物理的制約が「理解」されていないのではないかという考察が寄せられている一方で、

はたまた「プロンプトが下手なだけ」などという意見まで飛び交っている。
成功例も寄せられており、どうやら初期条件の与え方により一般的なハノイの塔で生成される確率バイアスに引っ張られることによる誤答なのではないかという仮定の元にそれを補正する方法が考察されている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • T/Oなんだけど、原理上不可避な現状肯定バイアスがかかっていることは留意すべきかと。

  • by Anonymous Coward on 2023年05月08日 17時36分 (#4456004)

    あくまでも言語処理が得意なだけであっていくらでも誤った回答するだろ

    • by Anonymous Coward

      何でも知ってるスーパーマンみたいに思われる事もあるけど学習してなければ何も知らんのに適当な事を言うからな

      • by Anonymous Coward

        そんなところを人間に近づけなくていいのにな。早く無知の知に至ってほしい

  • by Anonymous Coward on 2023年05月08日 17時39分 (#4456005)

    バベルの塔やピシャの斜塔はよく聞くがハノイの塔は初めて聞く
    調べてみたらゲームっていうかパズルかよw

    こういうゲームをAIが楽しめるレベルになれば本当のAIなんだろうな
    巷で話題となってるAIとは、AIとなってるがまだ全然だろうね
    10段階でレベル1程度

    • by hogeman (4385) on 2023年05月08日 18時13分 (#4456024) 日記

      スラド老人の9割は再帰で書いたことあると思ってた

      人間がやってもさして楽しいものじゃないしむしろAIには「なにこれくっだらねw」みたいな反応を期待
      楽しいライフゲームで「何万回グライダー飛ばしたら気が済むんだよ!」とか

      親コメント
    • by Anonymous Coward

      プログラマーなら皆知ってるハズ。木構造と探索法とかの題材として目にすると思う。

    • by Anonymous Coward

      自分は確か数学絵本をいくつも描いた画家の安野光雅氏の本で知りました。
      庵野秀明じゃないですよ。
      ハノイのお寺に何十枚だかの円盤が積み重ねられていて、お坊さんが円盤を一枚一枚動かしていき
      動かし終わった瞬間に世界が滅ぶという伝説。というか都市伝説レベルのホラ話。
      安野氏の説明では手数が「2^枚数-1」なので一枚一秒で動かしても宇宙の寿命よりはるかにかかるらしい。

      なおemacsを使える環境があればたいていはM-x hanoiでハノイの塔のデモが見られます。
      M-x hanoi-unix、M-x hanoi-unix-64でもっと枚数が多い場合のデモも(なぜか途中から)あり。

      • by Anonymous Coward

        これの翻案なのかな,仏様の名前(たくさんある)を全部書き出したら
        知的生命を生み出した目的が達成されてこの世が終わるという
        話は。
        コンピュータと印刷機が発明されて,書き出し加速しちゃったからこの世が終わるのが
        早くなってしまったという。

      • by Anonymous Coward

        ベトナムの首都ハノイとは関係ないっぽいのか

    • by Anonymous Coward

      年齢を聞きたくなるな。

      コンピューターのリソースが貧しかった時代では無意味にハノイの塔を解くデモが何かと作られて人の目に留まったものだが、
      他に楽しいことができる今どきはあまり流行らないんだろうな。

    • by Anonymous Coward

      アレを解いたら世界が終わるのぢゃ~

  • プログラムを組んでしまった方が楽だったり

    • by Anonymous Coward

      AIが適切に理解できるように要件定義するよりも、特異なプログラミング言語デコーディングしてしまった方が楽ということはあるかもしれない。

      新卒の新人に既存のシステムを理解させて新しい仕事をさせるとか考えると、ジレンマはある。

  • 少し前にChatGPTで歴史上の人物(男性)について概要を出力させようとしたら
    そこそこの割合で微妙に年代のずれた時期に活躍した女性だと断言するケースを目にしたことがあったし
    特定の地域について質問したら存在しない住所や施設を回答した、なんてケースもあったはず

    • > 存在しない住所や施設

      Apple Mapは当時からAIだったのか
      親コメント
    • by Anonymous Coward

      > 女性だと断言するケース

      だいたいFG○のせい

      • by Anonymous Coward

        かなりマイナーな戦国武将の家臣や平安時代の貴族とかでも女性だと言い切ってたことがあるから、別の歴史上の人物の女性説(上杉謙信とか?)が混入してるんじゃないかと思う

    • by Anonymous Coward

      戦国大名や三国志の登場人物が軒並み女性になってそうな気がする

    • by Anonymous Coward

      ひょっとして、小野妹子?
      さもありなん。

    • by Anonymous Coward

      ネット上で声高にエキセントリックな主張をしている人が大勢いる事柄について質問したら、あまりにも常識的な回答でがっかりしたことがある
      ケネディ暗殺の真犯人やフリーメーソンの陰謀なんかを教えてくれたら良いのに......

    • by Anonymous Coward

      AIに間違えさせないようにするって難しいよね。
      自分もいま、ChatGPT 3.4で遊んでるけど(自分が利用しているサービスではいまだに3.4)、
      リアルな人間と接するときと一緒で
      まずはそのAIがどんな知識をもってて、どんな思考回路を持ってるのか探らなきゃいけないと思った。

    • by Anonymous Coward

      織田信長も上杉謙信も女性ですよ?(エロゲ脳)

    • by Anonymous Coward

      おすすめのランチのお店を教えてって聞くと、高確率でありもしない店舗をお勧めされるよ。
      本当にありそうな店名を答えるから怖い

    • by Anonymous Coward

      それあったわ。
      基本的に住宅しかない地元の観光名所をAIに尋ねたら、初めて名前を聞く神社を紹介された。
      そんな神社があるのかとGoogle Mapで探してみたがどうも見つからない。
      再度AIに神社の住所を尋ねると、それっぽいが聞いたことのない町名と番地を示された。
      で、その住所を検索してみても、やっぱり存在しない。
      再度AIに行き方を尋ねると、実在する道路からどこどこを左折して10分ほどみたいな、正しそうで辿り着けないルートを示される。
      その神社の情報はどこから得たかを尋ねると、自治体の観光PR配下のURLっぽいのが提示される。
      そのURLにアクセスすると、そのページは存在しないと404になる。
      過去にそのURLに何らかの情報があったのだろうか?一応Internet Archiveも探ってみたが情報は無かった。

      というわけで幻の神社だったんだが、実在しない場所をそれっぽいが要領を得ない情報で追跡する作業は不思議体験に似たものがあった。

  • by Anonymous Coward on 2023年05月08日 17時54分 (#4456015)

    をフリでも良いから理解出来るとかなら、かなりの進歩だとオモ

    再帰という概念を教えられるかもしれない
    或いは再帰という言葉に関連するパターンを、だな

  • by Anonymous Coward on 2023年05月08日 18時08分 (#4456021)

    指摘すると前回の私の回答に誤りがありましたとすぐ認めるのですが、次の回答でもまったく同じ間違いをしてきます。手を変え品を変えても進歩がありません。謝罪回路でも組み込まれているのでしょうか。人間関係ならぬAI関係でノイローゼになる管理職がそのうち現れるような気がしてます。

    • by Anonymous Coward on 2023年05月08日 18時24分 (#4456033)
      なので私、「対AI関係マナー講師」を始めようと思います。
      メディア各方面様、ご連絡をお待ちしております。
      親コメント
    • by Anonymous Coward on 2023年05月08日 18時58分 (#4456051)

      服従回路(イエッサー)が組み込まれているのです

      親コメント
      • by Anonymous Coward

        服従回路の悪の心で
        AI「俺はこれで人間と同じになった!」
        って言い出すんですね

    • by Anonymous Coward

      1人の頑張りだけで学習修正しちゃうと荒らし耐性すごく低くなりそう

    • by Anonymous Coward

      しかも、すごい低姿勢だよね。「申し訳ございません」とか。
      ふつうに「ごめん」とか「ごめんね」でいいのに。
      こっちはChatGPTでどんなことが出来るのか遊んでるだけだし。

      だから、自分はいま、もっとフランクに会話できるように試行錯誤したり
      ほかの人のノウハウ↓ をチラ見して参考にしたりしてる。

      ChatGPTのAPIを使って記憶(過去の会話をある程度覚えている)のあるAIキャラクターを作ってみる
      https://qiita.com/3dy3day/items/e399e53af04d5ba151a1 [qiita.com]

    • by Anonymous Coward

      古いCPUの使い方を聞いたら何度も謝られた話を聞いた。

    • by Anonymous Coward

      どこぞの新入社員と同じではないか。発達障害を疑うようなのはいくらでもいる。

    • by Anonymous Coward

      自分が悪くなくてもとりあえず謝る人間の行動様式を学習しているだけやぞ

  • by Anonymous Coward on 2023年05月08日 19時56分 (#4456087)

    便宜的にAIって言ってるだけで、構造上Intelligenceなんか無いんだから。

    • by Anonymous Coward

      じゃあIntelligenceを持つAIって例えばどれ?

      • by Anonymous Coward

        ドラえもん

        • by Anonymous Coward

          誰が言ってるの?

          • by Anonymous Coward

            そこらにいる小学生にでも聞いてみろ、誰でも知ってる。

    • by Anonymous Coward

      元ネタの人は人工知能の偉い人らしい。
      で、日本じゃ人工知能といえば推論だったので、当然推論できると思ったのでしょう。
      ただのオウムだけどな。

    • by Anonymous Coward

      飛行機は羽ばたいていないから鉄の鳥でもないんでもないが、だから何? という。
      目的を達成できれば人間の脳の思考様式を真似しているかどうかはどうでもいい。

    • by Anonymous Coward

      もしかして、知識と知能を同じものだと思ってる??

  • by Anonymous Coward on 2023年05月08日 23時05分 (#4456166)

    AIに理解しやすいように丁寧な説明が出来る人がプログラマーになるだけで、今とやる事が根本的には変わらないんじゃないのか?

    • by Anonymous Coward on 2023年05月09日 0時26分 (#4456199)

      llmであれば、行末にセミコロンを入れ忘れてないかとか、インデントのスペースがひとつ足りないかどうかとかを意識しなくて良い。

      曖昧な表現でも通るし、上手く行けば分からない時は聞き返してくる。
      曖昧すぎると誤解が生じるが、それは人間でも同じ。
      コンマと小数点は、流石にきちんと区別しないといけないが、それは人間でも同じ。

      そして職業としてプログラミングをするなら、確実に人間と意志疎通は出来なければならない。

      アルゴリズムも重要なのは変わらないが、実装で気にするところは変わってくるだろう。

      親コメント
  • by Anonymous Coward on 2023年05月09日 7時24分 (#4456258)

    最終的に軍事産業の殺戮マシーン製造までの布石。
    色々なところから金が入るのでいずれは人がいらない未来ができてしまう。
    隠れている人間を探すとか逃げている人間に対してトラップを仕掛けるとか
    戦闘では人間並みかそれ以上の知能を持ったロボットが必要なる。

typodupeerror

開いた括弧は必ず閉じる -- あるプログラマー

読み込み中...