アカウント名:
パスワード:
「強いAI」では無いのだから、超絶凄い人工無能でしかない学習データ次第でいくらでも嘘をいうし、それが正しいかどうかをAI自身が判断する訳でもない確率と統計と関連付けによる「それっぽい回答」を現実の選挙に結びつけるほうが頭おかしい
無料版のChatGPTいらってみたが、「まことしやかなでたらめを言うのが巧い」という気がした。過去の歴史事実とか、過去の超ベストセラーの内容などを聞いたら、毎回違う嘘(ただし既出感強し)を出力してきた。
少なくとも「事実を問う」使い方は不向きと思う。孫正義が活用している話 [itmedia.co.jp]を読んで以上の認識を強めた次第。
現段階でAIの言うことを信じるのはスラドのコメントを鵜呑みにするのに等しいという事かｗ
このレベルでも業務には使えないそうで。
正答率94％でも「ごみ出し案内」をAIに託せなかったワケhttps://www.itmedia.co.jp/news/articles/2312/15/news158.html [itmedia.co.jp]
>AIには少なくとも職員と同等のレベルを求め、それに達しない限り対市民向けとしては導入できないと考えた。>また、AIがどのように回答したかを結局のところ職員が確認する作業が伴い、>正答率が低ければそれだけ確認する頻度も上げなければならない。>100％は無理としても99％は譲れない条件だった（三豊市）
94%なら結構いい線いってるんじゃない？と思ったけどその6%がとんでもない大誤答だったりしたらヤバいのか。ハルシネーションで「死体は燃えるゴミの日にだしてください」とかAIが言ったら問題になるもんな難しいねえ
ChatGPTの回答をすべて監視する人を雇っておかしなこと言ってたら引き取って回答すればいいんだけどそれじゃAI使う意味がなくなるもんな
死体ならともかく、ガスボンベとかリチウムイオン電池内蔵機器を見落とすと、最悪焼却場の場内で火災になって数十億レベルの損害になるから洒落にならない。
火災でごみ処理施設の一部運転休止、市が対策費５４億５０００万円の補正予算案 [yomiuri.co.jp]
>職員でも即座に回答できない問い合わせはあるが、時間をいただき調べてから正確な情報を回答しているこのような姿勢で回答していることもあり、20人から問い合わせがあったら1回は嘘を教えてしまうではあかんのやろね。
> AIの強弱関係ないよね
「強いAI」ってのは，心を持っているように見えるレベル、人間と区別がつかないレベルのAI、って意味ですよ。
だから不十分な知識を元に不正確な文章を垂れ流すことと心を持ってるかどうかは関係ないでしょ？間違いなく心を持っているハズの人間でさえそれをするのだから。まさに元コメのように。
チェリーピッキングでAIと人間が同じという方向に誘導してるけど同じという根拠は何も書かれていない
その反論をするなら評価関数が人と同じだという根拠を出さないといけなくなる単に問題をニューラルネットワークから評価関数に棚上げしてるだけチェリーピッキング以前と言って結局根拠なし
心があることと間違ったことを言ってしまうことは別問題だ、ということだけ提示すれば問題ないじゃんその根拠として人間を挙げてるだけだろ?僕の意見が通らない!以外何が不満なのかわからん
横だがこれはチェリーピッキングなのか？
いえ、「強いAI」とは問題の認識(推論)と解決能力があるかどうかですよ人間と区別がつかないというものなら人口無能でも達成できてますし
「強いAI」であれば不十分なソース・知識に対して「正しくない」と自己認識できる(はず)なので、新たな知識の獲得・比較をして「正しいかどうか」を自己判断できる(はず)なのですよそういうものではない現状のAI(推論エンジン)に対して、現実の現在進行系の事項を正しく答えろというのは、正しい学習データが無ければ不可能なのは当たり前って話なだけです
え、素晴らしいじゃないですか。それこそ自己判断の出来る「知性」ですよいまのハイパー人工無能とは違って、自身で「正しい」と「判断」するんですよ。そして間違いもする。素晴らしすぎるあと「強いAIより人間が強い」というのは意味不明です。AIの弱い・強いは世代論ですよ
人はパンのためのみに生きているのではないのだよ。
まあ、選挙の話は確率だとかじゃなく時制を理解できないのが致命的だと思われ。「○○が選挙に勝つ」と「○○が選挙に勝った」は時制が違うだけだが、人はそう解釈はしない。その辺をなんとかすればいいんじゃないか。
山ほど撮り溜めた写真から、「このテーマに合った写真5枚を選び出してくれ」とかが良い使い方と思う。プレゼン資料に貼る写真、「似たような写真のどれか」を選ぶのに意外と時間と脳力を消費するもんで...
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
※ただしPHPを除く -- あるAdmin
AIに何を期待しているのか？ (スコア:0)
「強いAI」では無いのだから、超絶凄い人工無能でしかない
学習データ次第でいくらでも嘘をいうし、それが正しいかどうかをAI自身が判断する訳でもない
確率と統計と関連付けによる「それっぽい回答」を現実の選挙に結びつけるほうが頭おかしい
Re:AIに何を期待しているのか？ (スコア:1)
無料版のChatGPTいらってみたが、「まことしやかなでたらめを言うのが巧い」という気がした。
過去の歴史事実とか、過去の超ベストセラーの内容などを聞いたら、毎回違う嘘(ただし既出感強し)を出力してきた。
少なくとも「事実を問う」使い方は不向きと思う。
孫正義が活用している話 [itmedia.co.jp]を読んで以上の認識を強めた次第。
Re: (スコア:0)
人間だって不正確なこと言う知ったかのニワカがゴロゴロしてんだから
Re:AIに何を期待しているのか？ (スコア:2, 興味深い)
現段階でAIの言うことを信じるのはスラドのコメントを鵜呑みにするのに等しいという事かｗ
このレベルでも業務には使えないそうで。
正答率94％でも「ごみ出し案内」をAIに託せなかったワケ
https://www.itmedia.co.jp/news/articles/2312/15/news158.html [itmedia.co.jp]
>AIには少なくとも職員と同等のレベルを求め、それに達しない限り対市民向けとしては導入できないと考えた。
>また、AIがどのように回答したかを結局のところ職員が確認する作業が伴い、
>正答率が低ければそれだけ確認する頻度も上げなければならない。
>100％は無理としても99％は譲れない条件だった（三豊市）
Re:AIに何を期待しているのか？ (スコア:2)
現段階でAIの言うことを信じるのはスラドのコメントを鵜呑みにするのに等しいという事かｗ
このレベルでも業務には使えないそうで。
正答率94％でも「ごみ出し案内」をAIに託せなかったワケ
https://www.itmedia.co.jp/news/articles/2312/15/news158.html [itmedia.co.jp]
コメントが抜け落ちた (スコア:3)
94%なら結構いい線いってるんじゃない？と思ったけどその6%がとんでもない大誤答だったりしたらヤバいのか。
ハルシネーションで「死体は燃えるゴミの日にだしてください」とかAIが言ったら問題になるもんな
難しいねえ
ChatGPTの回答をすべて監視する人を雇っておかしなこと言ってたら引き取って回答すればいいんだけどそれじゃAI使う意味がなくなるもんな
Re:コメントが抜け落ちた (スコア:1)
死体ならともかく、ガスボンベとかリチウムイオン電池内蔵機器を見落とすと、
最悪焼却場の場内で火災になって数十億レベルの損害になるから洒落にならない。
火災でごみ処理施設の一部運転休止、市が対策費５４億５０００万円の補正予算案 [yomiuri.co.jp]
Re: (スコア:0)
>職員でも即座に回答できない問い合わせはあるが、時間をいただき調べてから正確な情報を回答している
このような姿勢で回答していることもあり、20人から問い合わせがあったら1回は嘘を教えてしまうではあかんのやろね。
Re: (スコア:0)
> AIの強弱関係ないよね
「強いAI」ってのは，心を持っているように見えるレベル、人間と区別がつかないレベルのAI、って意味ですよ。
Re: (スコア:0)
だから不十分な知識を元に不正確な文章を垂れ流すことと心を持ってるかどうかは関係ないでしょ？
間違いなく心を持っているハズの人間でさえそれをするのだから。
まさに元コメのように。
Re: (スコア:0)
チェリーピッキングでAIと人間が同じという方向に誘導してるけど同じという根拠は何も書かれていない
Re: (スコア:0)
「弱いAI」にそれができないという根拠も。
強いAIが仮にあったとして、そいつが確信犯的に嘘をついてきたときにそれを正す作用はそのAI自身にはないし、
弱いAIだって誤答に低い評価値を与える評価関数があれば嘘つかないように教育できる。今はその評価関数が不十分だってだけ。
チェリーピッキング以前の問題。
Re: (スコア:0)
その反論をするなら評価関数が人と同じだという根拠を出さないといけなくなる
単に問題をニューラルネットワークから評価関数に棚上げしてるだけ
チェリーピッキング以前と言って結局根拠なし
Re: (スコア:0)
心があることと間違ったことを言ってしまうことは別問題だ、ということだけ提示すれば問題ないじゃん
その根拠として人間を挙げてるだけだろ?
僕の意見が通らない!以外何が不満なのかわからん
Re: (スコア:0)
横だがこれはチェリーピッキングなのか？
Re: (スコア:0)
いえ、「強いAI」とは問題の認識(推論)と解決能力があるかどうかですよ
人間と区別がつかないというものなら人口無能でも達成できてますし
「強いAI」であれば不十分なソース・知識に対して「正しくない」と自己認識できる(はず)なので、新たな知識の獲得・比較をして「正しいかどうか」を自己判断できる(はず)なのですよ
そういうものではない現状のAI(推論エンジン)に対して、現実の現在進行系の事項を正しく答えろというのは、正しい学習データが無ければ不可能なのは当たり前って話なだけです
Re: (スコア:0)
「強いAI」よりもさらに「強い」人間にだって当然のごとく不可能なことは強さと関係ないってこと。
AIは嘘をつくわけではないのです。まちがいをするだけなのです……
Re: (スコア:0)
え、素晴らしいじゃないですか。それこそ自己判断の出来る「知性」ですよ
いまのハイパー人工無能とは違って、自身で「正しい」と「判断」するんですよ。そして間違いもする。素晴らしすぎる
あと「強いAIより人間が強い」というのは意味不明です。AIの弱い・強いは世代論ですよ
Re: (スコア:0)
人はパンのためのみに生きているのではないのだよ。
まあ、選挙の話は確率だとかじゃなく時制を理解できないのが致命的だと思われ。
「○○が選挙に勝つ」と「○○が選挙に勝った」は時制が違うだけだが、人はそう解釈はしない。
その辺をなんとかすればいいんじゃないか。
Re: (スコア:0)
山ほど撮り溜めた写真から、「このテーマに合った写真5枚を選び出してくれ」とかが良い使い方と思う。
プレゼン資料に貼る写真、「似たような写真のどれか」を選ぶのに意外と時間と脳力を消費するもんで...