防御

cover

对抗向善：防御成员推理攻击

人工智能安全

在成员推理攻击中，攻击者训练一个二分类器，该分类器将目标分类器预测的数据样本的置信度分数向量作为输入，预测该数据样本是目标分类器训练数据集的成员数据还是非成员数据。

whoami
2021-12-20 15:30:38

327037次阅读 1

cover

AI中的后门攻击及防御-实战篇

人工智能安全

AI系统中的确是存在后门攻击的，但是与传统的攻防对抗中的后门是截然不同的，传统的后门是代码编写的，被植入到计算机中；而AI系统中的后门不是由代码编写的，而是通过修改训练数据实现的。

whoami
2021-10-26 10:30:30

269563次阅读 3

cover

如何防御对抗攻击

对抗攻击从2013年被Szegedy等人提出之后，截止目前，已经被研究的很深入了，相关文章也呈爆炸增长。

whoami
2021-10-09 10:00:19

297104次阅读