アカウント名:
パスワード:
勾配降下法の誤判定ってことは極値に陥らせるように広く浅い漏斗型の関数で学習内容を歪めるとかかな?
リンク先情報が何言ってんだかわからない、と分かることができるのが人間のような気がするくらい、わからない
・元コメの言うように、「学習をゆがめる」ことのできる入力なのか (勾配を意図的にゆがめた学習データ、ってありがちなことではあるけど、 作るの面倒くさそう、それコスパあるの。 論文だけで実証可能な「ありうる可能性」なんじゃないの)・学習済みの分類器に対して、出力をゆがめることができる入力なのか (やり方すらわからないができたらすごすぎる)
で、どっち。てことがarxivのアブスト [arxiv.org]見に行ってまで「わからない」。ふつうアブストまで行けばどっちかわかりそうなもんだけど
むしろソーカル事件みたいな罠なんじゃないだろうかと疑ってみたくもなる#まあテレワークで引きこもっているから脳が縮退している可能性も高いが
JVNVUの方見りゃ説明一行目に
勾配降下法を用いて学習させたモデルを用いた分類を行う場合に、任意の分類結果が得られるような入力を意図的に作成することが可能です。
って書いてあるだろ。学習済みの分類機(モデル)に対する攻撃。ほかコメでも指摘があるけどいわゆる敵対的サンプルそのもの。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー
具体的にどういうの? (スコア:0)
勾配降下法の誤判定ってことは極値に陥らせるように広く浅い漏斗型の関数で学習内容を歪めるとかかな?
「よくわからないけどちぃ覚えた。『勾配降下法のMLはダメ機械!』」←「はいお前ダメAI」 (スコア:0)
リンク先情報が何言ってんだかわからない、と分かることができるのが人間のような気がするくらい、わからない
・元コメの言うように、「学習をゆがめる」ことのできる入力なのか
(勾配を意図的にゆがめた学習データ、ってありがちなことではあるけど、
作るの面倒くさそう、それコスパあるの。
論文だけで実証可能な「ありうる可能性」なんじゃないの)
・学習済みの分類器に対して、出力をゆがめることができる入力なのか
(やり方すらわからないができたらすごすぎる)
で、どっち。てことがarxivのアブスト [arxiv.org]見に行ってまで「わからない」。ふつうアブストまで行けばどっちかわかりそうなもんだけど
むしろソーカル事件みたいな罠なんじゃないだろうかと疑ってみたくもなる
#まあテレワークで引きこもっているから脳が縮退している可能性も高いが
Re:「よくわからないけどちぃ覚えた。『勾配降下法のMLはダメ機械!』」←「はいお前ダメAI」 (スコア:0)
JVNVUの方見りゃ説明一行目に
って書いてあるだろ。
学習済みの分類機(モデル)に対する攻撃。
ほかコメでも指摘があるけどいわゆる敵対的サンプルそのもの。