アカウント名:
パスワード:
AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。
そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。 例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。
壁のしみが人の顔に見えるように、ランダムな文字列からでもバイアスを拾い上げて「このAIは偏ってる!」とするのが人間ですよ。
「聖書の暗号」を思い出しちゃった。聖書(ヘブライ語だったっけ)をn字置きに抜き出してみると、これ未来予知になってる!ってやつ。あれ面白かったなあ。
バイアスを可視化することはできるけど、「バイアスのない情報」は存在しないよ。
どの記事のどの部分がどんな構文でどれだけ「一般言語コーパス」的なものから乖離しているかあげつらうことはできると思う。けど、それを元に「数学的に公平中立性が保証された簡潔な文章」みたいなものを構築することはできないよ。
だって、バイアスのない正確な情報って現物そのものじゃん。スタートレックじゃないんだから。
それはそれで可視化の価値はあるんじゃない?「どの情報にもバイアスは存在するから、ノイズが多すぎて使い物にならないだろう」って意味なら、そうかもしれないが・・・。
可視化の価値はあると思うよ。ただ、「情報からバイアスを排除した情報」とか「バイアスを排除した中立的な記事」は情報や記事たり得ないから存在し得ないと思う。そんだけ。
AIの話題でバイアスって用語を使うの紛らわしい
人間のバイアスをあぶり出すため、と言ってるんだから妥当でしょ。ちゃんと読みなさいよ。
これって、driverlessai等のソフトがInterpretabilityとか読んで提供していたものと本質は同じものでは?
であれば、単にAIにインプットされたどのデータが、どの程度結果に影響しているか?を説明できるだけなので、そもそも全ての内部パラメータがブラックボックスな人間の知能には適用できない気がする。
AIの学習パラメータを表示するだけのツールだから人間とは全然関係ない
普段人から言語不明瞭って言われない?
サールの「中国語の部屋」とか知らない?
中国人の部屋は知ってるけど、AIソフトのバイナリファイルを可視化するツールの話に「人間の知能の構造を~」とか言い出すからちょっと人工知能寄りの人なのかなと思って
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
海軍に入るくらいなら海賊になった方がいい -- Steven Paul Jobs
バイアスの可視化に使えないだろうか (スコア:3, 興味深い)
AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。
そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。
例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
無理無理 (スコア:0)
壁のしみが人の顔に見えるように、ランダムな文字列からでもバイアスを拾い上げて「このAIは偏ってる!」とするのが人間ですよ。
Re: (スコア:0)
「聖書の暗号」を思い出しちゃった。
聖書(ヘブライ語だったっけ)をn字置きに抜き出してみると、これ未来予知になってる!ってやつ。
あれ面白かったなあ。
Re: (スコア:0)
バイアスを可視化することはできるけど、「バイアスのない情報」は存在しないよ。
どの記事のどの部分がどんな構文でどれだけ「一般言語コーパス」的なものから乖離しているかあげつらうことはできると思う。
けど、それを元に「数学的に公平中立性が保証された簡潔な文章」みたいなものを構築することはできないよ。
だって、バイアスのない正確な情報って現物そのものじゃん。スタートレックじゃないんだから。
Re: (スコア:0)
それはそれで可視化の価値はあるんじゃない?
「どの情報にもバイアスは存在するから、ノイズが多すぎて使い物にならないだろう」って意味なら、そうかもしれないが・・・。
Re: (スコア:0)
可視化の価値はあると思うよ。ただ、「情報からバイアスを排除した情報」とか
「バイアスを排除した中立的な記事」は情報や記事たり得ないから存在し得ないと思う。そんだけ。
Re: (スコア:0)
AIの話題でバイアスって用語を使うの紛らわしい
Re: (スコア:0)
人間のバイアスをあぶり出すため、と言ってるんだから妥当でしょ。ちゃんと読みなさいよ。
Re: (スコア:0)
これって、driverlessai等のソフトがInterpretabilityとか読んで提供していたものと本質は同じものでは?
であれば、単にAIにインプットされたどのデータが、どの程度結果に影響しているか?を説明できるだけなので、そもそも全ての内部パラメータがブラックボックスな人間の知能には適用できない気がする。
Re: (スコア:0)
人間の知能の構造を推定しようって話ならば意味あるんじゃない
Re: (スコア:0)
AIの学習パラメータを表示するだけのツールだから人間とは全然関係ない
Re: (スコア:0)
Re: (スコア:0)
普段人から言語不明瞭って言われない?
Re: (スコア:0)
サールの「中国語の部屋」とか知らない?
Re: (スコア:0)
中国人の部屋は知ってるけど、AIソフトのバイナリファイルを可視化するツールの話に
「人間の知能の構造を~」とか言い出すからちょっと人工知能寄りの人なのかなと思って