「勾配降下法を使用する機械学習モデルに、誤った識別をさせるような入力を作成することが可能な問題」記事へのコメント

具体的にどういうの?

[Anonymous Coward]

勾配降下法の誤判定ってことは極値に陥らせるように広く浅い漏斗型の関数で学習内容を歪めるとかかな?

「よくわからないけどちぃ覚えた。『勾配降下法のMLはダメ機械！』」←「はいお前ダメAI」

[Anonymous Coward]

リンク先情報が何言ってんだかわからない、と分かることができるのが人間のような気がするくらい、わからない

・元コメの言うように、「学習をゆがめる」ことのできる入力なのか
　（勾配を意図的にゆがめた学習データ、ってありがちなことではあるけど、
　　作るの面倒くさそう、それコスパあるの。
　　論文だけで実証可能な「ありうる可能性」なんじゃないの）
・学習済みの分類器に対して、出力をゆがめることができる入力なのか
　（やり方すらわからないができたらすごすぎる）

で、どっち。てことがarxivのアブスト [arxiv.org]見に行ってまで「わからない」。ふつうアブストまで行けばどっちかわかりそうなもんだけど

むしろソーカル事件みたいな罠なんじゃないだろうかと疑ってみたくもなる
#まあテレワークで引きこもっているから脳が縮退している可能性も高いが

Re:

[Anonymous Coward]

お前ら二人とも「敵対的サンプル」でググってこい
常識だが付番されてなかったから説明を省けるように付けたんだろう

TeslaのAutopilot初期型って機械学習じゃなくね?
設計された年代がディープラーニングブームより前だろ

Re:

[Anonymous Coward]

教えてくれてありがとう。まだよくわからないけど。

＞常識だが付番されてなかったから説明を省けるように付けたんだろう

分かる「同士」相手に他にわからない符号で会話するって、
宗教団体か革命のための前進機関だよね。
で、どっちな(ﾊﾞｷｭｰﾝ

Re:

[Anonymous Coward]

アホらし…ソースが無かったからまとめページを作ったのを宗教扱いとは。
ネット上のページは全て宗教だとでも? やっぱACはダメだな。

Re:

[Anonymous Coward]

で、結局こういうの弾くのはどうやるの?
データをランダムに複数に分けてそれぞれ学習させ、結果が大きく外れている学習セットを汚染セットとして省いていく、っていうのが思い付くけど、そういう感じ?

Re:

[Anonymous Coward]

横レス。
手法は色々あるはずで一例としては、敵対サンプル生成機の出力食わせて狂わない方向に学習させるとか聞いた気がするけど……
そもそも敵対的サンプルの見た目からして、学習結果それ自体が構造的な分類じゃなくて中間層の活きてない一種の過学習であるようにしか見えない。
何らかの過学習や中間層不足が原因であるなら、今の延長線では根本解決はせずにイタチごっこで終わる気がする。

Re:

[Anonymous Coward]

専門用語って全部そういうものだろが……ちょっとはモノ考えて喋れバカ。

Re:

[Anonymous Coward]

外れ値を入力にいれることで学習内容を歪めることができるのか
認知バイアスみたいな話だな

Re:

[Anonymous Coward]

JVNVUの方見りゃ説明一行目に

勾配降下法を用いて学習させたモデルを用いた分類を行う場合に、任意の分類結果が得られるような入力を意図的に作成することが可能です。

って書いてあるだろ。
学習済みの分類機(モデル)に対する攻撃。
ほかコメでも指摘があるけどいわゆる敵対的サンプルそのもの。