アカウント名:
パスワード:
AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。
そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。 例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。
これって、driverlessai等のソフトがInterpretabilityとか読んで提供していたものと本質は同じものでは？
であれば、単にAIにインプットされたどのデータが、どの程度結果に影響しているか？を説明できるだけなので、そもそも全ての内部パラメータがブラックボックスな人間の知能には適用できない気がする。
AIの学習パラメータを表示するだけのツールだから人間とは全然関係ない
普段人から言語不明瞭って言われない?
サールの「中国語の部屋」とか知らない?
中国人の部屋は知ってるけど、AIソフトのバイナリファイルを可視化するツールの話に「人間の知能の構造を～」とか言い出すからちょっと人工知能寄りの人なのかなと思って
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー
バイアスの可視化に使えないだろうか (スコア:3, 興味深い)
AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。
そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。
例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
これって、driverlessai等のソフトがInterpretabilityとか読んで提供していたものと本質は同じものでは？
であれば、単にAIにインプットされたどのデータが、どの程度結果に影響しているか？を説明できるだけなので、そもそも全ての内部パラメータがブラックボックスな人間の知能には適用できない気がする。
Re: (スコア:0)
人間の知能の構造を推定しようって話ならば意味あるんじゃない
Re: (スコア:0)
AIの学習パラメータを表示するだけのツールだから人間とは全然関係ない
Re: (スコア:0)
Re: (スコア:0)
普段人から言語不明瞭って言われない?
Re:バイアスの可視化に使えないだろうか (スコア:0)
サールの「中国語の部屋」とか知らない?
Re: (スコア:0)
中国人の部屋は知ってるけど、AIソフトのバイナリファイルを可視化するツールの話に
「人間の知能の構造を～」とか言い出すからちょっと人工知能寄りの人なのかなと思って