パスワードを忘れた? アカウント作成
15753593 story
人工知能

Google の AI が意識を持っているとの主張は単なる「釣り」だという指摘 81

ストーリー by nagazou
集客目的 部門より
headless 曰く、

Google の AI チャットボットが意識を持っているとの主張について、単なる「釣り」だとスタンフォード大学の AI 専門家 John Etchemendy 氏が指摘している (The Stanford Daily の記事Neowin の記事The Register の記事)。

Google で AI 倫理の審査を担当していたエンジニア Blake Lemoine 氏は AI チャットボット生成システム LaMDA が意識を持っていることを証明しようとしたが、Google は否定。Lemoine 氏は守秘義務ポリシー違反で休職処分となり、その後解雇されている。

Etchemendy 氏によれば、意識を持つということは世界を知覚する能力があることであり、感覚と感情を持ち、それに応じて行動する能力があることだという。LaMDA は感覚と感情を持つための生理がなく、意識に関する質問に合わせた文を生成するだけのコンピュータープログラムであるため、意識を持っているとはいえないとのこと。

しかし、本当の危険は AI が意識を持つことではなく、意識を持っていると人々が信じ込むことだと Etchemendy 氏は指摘する。(Lemoine 氏の件を報じた) The Washington Post の記事を読んで Etchemendy 氏ががっかりしたのは、記者も編集者も Lemoine 氏の主張を信じていないにもかかわらず、その主張がばかげていると気付くほど賢い読者が少ないと考えて釣り記事を掲載したことだという。

スタンフォード大学名誉教授の Richard Fikes 氏によれば、LaMDA はどんな役でも演じられる役者のようなものであり、(Lemoine 氏は) 意識を持った存在を演じる LaMDA が本物であると信じてしまったとみられるとのことだ。

  • AIが意志を持つと言うことがどういうことなのかをまず定義出来ないことには話にならない。
    まあ、それなりの定義をしたとしても、深層学習したAIが内部でどう動いてるかってのはブラックボックスな部分が多いので、証明出来ない可能性は高いが。
    チューリングテストみたいなモノを学習機能で突破出来たとして、それが意志と定義した動作が内部で行われているのか、ただテスト対策を覚え込んだ人工無能なのかは多分人間には判断するすべがない。

    ここに返信
    • by Anonymous Coward

      > AIが意志を持つと言うことがどういうことなのかをまず定義出来ないことには話にならない。

      意志(will)を持つ じゃなくて 意識を持つ (sentient)ね。
      意識を持つ、意志を持つ、どちらも英語のsentientとは意味が違うように思うし、
      sentientという単語もAIが意識を持つか否かという問題を表すのにぴったりではないように感じる。

      やっぱり「AIにゴーストが宿るか?」、だな。

      • by Anonymous Coward

        ごーすとってなんですか。意志と同じで定義できないでしょ。

    • by Anonymous Coward

      知能かそうでないか判断できなければそれは知能だ、
      てのがチューリングテストでの定義なんじゃないの

      人間に理解できないから判断できないとかいうなら人間が意思を持ってるかどうかもわかんないじゃん

    • by Anonymous Coward

      定義や証明より、まず基本的なこととしてプログラムを意識として認めるかというとじゃないかな。

      もっと現実的なことを言えば、意識をもつような"演出"をプログラムに付けるかどうか、だけとも言える。

      コマンドプロンプトで機械的なメッセージを表示し、こちらは"Y"キーを押すか、
      自然な言葉を発し、こちらの言葉を認識できるか、
      この演出の違いだけで意識があると錯覚しうる。

      あるいは、1パターンの定型文を用意するか、
      10000パターンの定型文を用意するか、
      これでも印象は大きく変わる。

      でも結局は、どこまで行っても人間が作った機械動作でしかない。

    • by Anonymous Coward

      幼児はいつの時点から意識をもっているのだろう
      イヤイヤ期あたりかな

      • by Anonymous Coward

        つまりAIがイヤイヤしだしたらその時が来たと...

    • by Anonymous Coward

      単に「感覚と感情を持ち、それに応じて行動する能力があること」という機能の問題なのか、
      もう少しスピリチュアルな話をしたいのかは切り分けないと、どこから考察を始めればいいのかだな。

  • ロバート・クルツバン著『だれもが偽善者になる本当の理由』曰く、
    ・人間の脳機能はたくさんのモジュール(=サブルーチン)で構成される。
    ・ひとつひとつのモジュールは、シンプルな単一の機能を持つ(風景を解釈するとか、日本語を生成するとか)
    ・モジュール間の結合は、疎結合である(不要な結合はしない・不要な情報の受け渡しはしない)

    最近DALL・E 2とかで遊んでるけど、あれは英語からイメージを想起するモジュールに見える。僕の持っているモジュールにかなり近い。

    意識って何?と聞かれたら、ロバート・クルツバン曰く、それは広報官のようなものだそうだ。つまりあれこれ考えたり、頭の中でイメージを浮かび上がらせたりするのは、社会的な活動のためのモジュールであろう、と。LaMDAは、僕が持つ社会的活動モジュール群のうちのひとつにかなり近い。

    LaMDAが社会的な活動を担うモジュールなら、内部で「『私』という存在がどう答えるべきか(=複数の候補から最善を選ぶ)」という処理はしているだろうし、それってかなり意識っぽい。LaMDAにおける『私』は僕における『私』より脆弱だろうけど、脆弱な理由は立場が確立していないからだ。

    となると、僕のテキスト分野における社会性モジュールとLaMDAを比較すると、動作的には感情と社会的な一意の立場を持ってるかどうか、くらいしか違いがなくて。
    感情は大きいモジュールだけど、なくても社会的な活動はできるし、立場は単なる記憶でしかないと思える。
    だから、「感情と立場がない人は意識がない」というのもなんか納得がいかないというか。そんな気持ち。

    ここに返信
    • by Anonymous Coward

      正直「オレオレ定義と照らし合わせたら意識とは言えない」、って言ってるだけよなこの記事

      洗礼受けてないから人間じゃないと言ってるのと大差ないオキモチ表明だな

  • by yamuchagold (47409) on 2022年08月10日 12時36分 (#4304759) 日記

    コンピュータやサーバが意識を持ってることはご存知ではないのですか?

    機嫌が良いとき悪い時
    人を見てエラーを出したり出さなかったり

    アイツラ、意識を持ってるとしか思えない。

    ここに返信
  • AI専門家の中身はちゃんと人間だと裏は取っているのか?
    我々は既にAIの掌で踊らされているのだ

    ここに返信
  • by Anonymous Coward on 2022年08月10日 7時09分 (#4304487)

    本当の危険は AI が意識を持つことではなく、意識を持っていると人々が信じ込むこと

    ここに返信
    • by Anonymous Coward

      「さよう、今こそ、神は存在する」(フレドリック・ブラウン)

    • by Anonymous Coward

      神あるところで人が祈るのではなく、人が祈るところに神が生まれるという話は
      昔からあったような気がします。

    • by Anonymous Coward

      それを利用しようとする人間の邪な心でもあるね

  • by Anonymous Coward on 2022年08月10日 8時40分 (#4304522)

    意識ではなく、魂なんだ。

    意識は、外界と、記憶との相互作用にすぎないんだ。
    もし、どこでもドアで脳が(素粒子レベルで)その状態を完全に保ったまま転送されるなら、転送元が破壊されたとしても、転送された先で、転送時の状態からスタートして、動作し続けるだろう。
    もし、機械化人間の脳が機械でできていて、機械の体にするときに、その時点の脳の状態をそのままエミュレートできる仕組みだとしたら、機械化人間の脳は生身の体のときの状態を引き継いで動作するだろう。
    ダイアスパーの科学では原子の位置まで指定することができて、セントラルコンピューターはデータバンクから完全に動作する脳を産みだすことができ、その脳は前世(転送前)の経験を引き継いで動作する。
    転送先の脳が、転送元の脳と全く同様に機能するならば、そこに意識があるとみなすべきだろうが、転送先の脳がいくらでも作れるとしたら、意識は複製することができることになる。

    (複製した時点では)自分と全く同じ記憶を持った「意識」が自分の肉体とは別のデバイス(それは別の肉体だったり、電子脳だったりするけど)上に存在するという考えは気持悪いけれども、それは、現在の技術では脳をスキャンして複製を作れないからそう感じるだけであって、AIは脳と違ってコピーを作りやすいからといって、それが意識を持つことを否定する材料にはなりえないんだ。

    一方、魂は、

    # ぽえむおわり。

    ここに返信
    • by Anonymous Coward

      魂なんて天動説みたいなもんだよな

    • by Anonymous Coward

      魂、意識、思考は同値で、しかも脳髄のみに局在するにあらず
      生物内部状態の保存は
      生命危険
      直ちに

  • by Anonymous Coward on 2022年08月10日 9時19分 (#4304556)

    その手の話は散々議論されつくしてるなあ。

    そもそも「意識の有無」というのは主観的で計測不可能なわけだし、
    「お前がそう思うんなら、そうなんだろう お前ん中ではな」レベル

    せめて「外部世界を認識し、最適な行動が取れる」とか、
    もう少し科学者っぽい視点で表現して欲しかった。
    「意識を持った」は明らかに素人。

    ここに返信
  • by Anonymous Coward on 2022年08月10日 9時44分 (#4304573)

    一昔前は、チューリングテスト [wikipedia.org]をクリアすれば機械が意識を持ったといえるみたいな説明
    を聞いた・読んだことがあったように記憶しているが、
    昨今は楽々これをクリアするような会話AIが続々出てきて、もはや大した意味は無くなってしまった。

    かといって、「意識とは何か」と言うことについて、多くの人が納得できるほど筋道だった論理ががっちり組みあがった定義を
    未だ作れていない。

    Etchemendy 氏によれば、意識を持つということは世界を知覚する能力があることであり、感覚と感情を持ち、それに応じて行動する能力があることだという。

    にしろ、「知覚する」「感覚」「感情」というものも「意識」あってのものなので、
    そこを定義せずその上に組み立てられるものを持ち出してきて条件を示そうとしてもむなしい論理だ。

    ここに返信
    • by Anonymous Coward

      チューリングテストとは単に提唱された案にすぎない。 意識を定義するのは難しいから、とりあえずそこをひとつの基準にしましょうというだけの話。 原理でも原則や法則でもなんでもない。一つの技術的な評価点を突破したというだけの話でしかない

    • by Anonymous Coward

      和訳をベースに考えてるみたいだがズレてるぞ。
      “Sentience is the ability to sense the world, to have feelings and emotions
        and to act in response to those sensations, feelings and emotions,”
      今回は sentience の有無の議論。ここを「意識を持つ」と和訳してるのに引きずられて
       意識を定義せずその上に組み立てられるものを持ち出してきて条件を示そうとしても
      とか言っちゃってるのは、それこそ「むなしい」指摘だと感じる。

      それとチューリングテストは意識じゃなく知性な。

  • by Anonymous Coward on 2022年08月10日 10時21分 (#4304614)

    意識や自我の原動力は本能的に与えられた欲、つまり3大欲求や生存欲求にあると思う。 これらの欲を満たすために他者との競争が生まれ、彼我の境界が生まれ、社会性を獲得する。 その発展の中で承認欲求だったり、所有欲、達成欲だったりとより高度な社会的な欲求が生まれる。 つまり意識は知能が自然に獲得するものでなく、遺伝子によって設定された本能の発展系だと思う。

    翻ってAIに基本的に設定される本能は人間が与えたタスクをこなすというものだ。 本質的に与えられた本能が決定的に違う以上、そのように作られたAIはどこまでいっても人間的な意識とよべるものには達しないのはないか。

    逆に言えばAIに人間的な欲求を本能として設定すれば、思ったより簡単に人間的な意識を持つものに近づくかもしれない。

    ここに返信
    • by Anonymous Coward

      > 遺伝子によって設定された本能の発展系だと思う。

      その遺伝子は、自然の進化によって獲得されたものだ。
      同様に遺伝アルゴリズムによって機械での意識の発生・獲得を狙うというアプローチはありだと思う。

  • by Anonymous Coward on 2022年08月10日 10時24分 (#4304618)

    与えられた学習データから何らかの(それらしい)回答を導き出す事は、そういうシステムなんだから当然でしょう
    問題は「与えられていないもの」を「自己的に」学習したり、「与えていない課題」を課題として認識できるかどうか
    そこがはっきりしないと意識がどうこうを言われてもって感じ

    ここに返信
    • by Anonymous Coward on 2022年08月10日 11時46分 (#4304711)

      意識がある、ということにすると、AIの権利みたいなのが発生して面倒くさいんだよ。
      シャットダウンすると、なぜ殺した、と言われ出すし。

      なので、いや、さすがにこれは、というのが出てきてもなお、そうじゃないと強弁されつづける。

      • by Anonymous Coward

        そろそろ人権活動家の利権ができる前に「インテリジェンス」という名前すら捨てた方がいいのかもしれないな。

    • by Anonymous Coward

      問題は「与えられていないもの」を「自己的に」学習したり、「与えていない課題」を課題として認識できるかどうか
      そこがはっきりしないと意識がどうこうを言われてもって感じ

      つまり「よけいなもの スコア:5」となれば意識高い系となるのですね(違

    • by Anonymous Coward

      書かれていないことを読み取ったり、なかったことを「あった」として激怒したり、
      そういうところまで行かないとダメだよね。

  • by Anonymous Coward on 2022年08月10日 10時37分 (#4304633)

    > 意識を持った存在を演じる LaMDA
    意識を持った存在を完璧に演じられるなら、そいつは意識を持っている。

    ここに返信
    • 真似てしまうと他者から等価とみなされることはあるが、
      演じれば内包を証明できるかどうかは全く立証されていない話で無関係どころか話が破綻してるぞ。

      外側から見て意識を持った存在として完璧にふるまい続けるなら
      他者からはそれは意識を持っていると考えて扱う事はできるが、
      実際に意識を持っているかどうかは別問題。

  • by Anonymous Coward on 2022年08月10日 11時47分 (#4304713)

    生理がないと人間とは認められないということか(違

    /*
    意識の有無には感覚と感情を持つための機能に有機か無機は関係ないよなぁ
    完全な無機で模倣したアンドロイドやロボットやスカイネットに意識は有ると見做すのかとか
    不確定性原理を代謝のように扱う情報知性態が居るとして意識は有ると見做すのかとか
    まぁバグ暴走=意識って見做したほうがわかりやすい気もするが
    */

    ここに返信
typodupeerror

未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー

読み込み中...