【機器學習2021】來自人類的惡意攻擊 (Adversarial Attack) (下) - 類神經網路能否躲過人類深不見底的惡意？

[@droidcrackye5238]

可怕，李老师又给我安利动漫，哈哈

[@dramajpn]

白箱好看喔XD

[@邱婕雅-r4b]

28:24 介紹製作Adversarial Reprogramming的方法有說到「將要數的方塊圖片嵌在雜訊中間」，接著又說到「在圖片外面加一些雜訊」，那麼雜訊是隨機sample出來的還是透過哪一種特定方法sample的？外加的雜訊大小有無限制？

[@hefuwei]

知道白箱動畫的不多了 還好老師知道😂

[@nanakaka7]

slide最後一張沒有講到嗎？想問要怎麼解釋那張曲線圖呢？謝謝

[@ScooterAnnihilator]

老師知道最後生還者

[@shuaihuang-k6m]

李老师您好，对于白盒攻击，您说必须知道模型的参数才能计算梯度。但是不知道模型参数也可以啊，是不是知道每个类别所对应的向量就可以了，这样也可以计算梯度。

[@aajjja]

要知道在soft max之前的向量

[@aajjja]

还

[@ken4600]

我想到了一個防禦的方法，讓被攻擊的圖片隨機加上一些微小的雜訊，當攻擊的訊號不是指定的，攻擊就不會產生作用了

[@沈豪-d8o]

但是其实这个微小的信息也可以看出网络的参数，如果知道这个讯息或者拟合数据集也是可以成功攻击的

[@tony0731]

其實就跟Smoothing一樣，如果被對方知道你的方法，那這個方法就沒用了~

[@founder-13th]

如果我也能在台大念书就好了

[@厚厚-v9c]

Milla Jovovich

[@婓誦柚]

攝像頭(X) 攝影機、鏡頭(O)