「Google、機械学習でなぜその結論に至ったかを分析するためのツール「Explainable AI」を発表」記事へのコメント

バイアスの可視化に使えないだろうか

[akiraani (24305)]

　AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。

　そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。
　例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。

--
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される

Re:

[Anonymous Coward]

バイアスを可視化することはできるけど、「バイアスのない情報」は存在しないよ。

どの記事のどの部分がどんな構文でどれだけ「一般言語コーパス」的なものから乖離しているかあげつらうことはできると思う。
けど、それを元に「数学的に公平中立性が保証された簡潔な文章」みたいなものを構築することはできないよ。

だって、バイアスのない正確な情報って現物そのものじゃん。スタートレックじゃないんだから。

Re:

[Anonymous Coward]

それはそれで可視化の価値はあるんじゃない？
「どの情報にもバイアスは存在するから、ノイズが多すぎて使い物にならないだろう」って意味なら、そうかもしれないが・・・。

Re:バイアスの可視化に使えないだろうか

[Anonymous Coward]

可視化の価値はあると思うよ。ただ、「情報からバイアスを排除した情報」とか
「バイアスを排除した中立的な記事」は情報や記事たり得ないから存在し得ないと思う。そんだけ。