安全客
在本次DEFCON China大会上,来自中国人民大学的弓媛君、梁彬教授及黄建军博士进行了题为“欺骗图片搜索引擎”的报告。
本次的defcon China上,来自韦恩州立大学的宁振宇和张锋巍博士分享了关于针对恶意软件的透明调试分析的相关技术。
在本次的DEFCON China上,360智能安全团队的李康博士分享了一个关于深度学习系统数据流攻击的议题,展示了如何让人工智能人脸识别系统将李冰冰的照片误认为赵本山的攻击形式。
深度学习在很多领域受到广泛关注。 尤其在图形图像领域里,人脸识别和自动驾驶等应用正在逐渐进入我们的生活。 深度学习的流行与普及也自然带来了安全方面的考虑。
ISC 2017中国互联网安全大会举办了人工智能安全论坛。 我们把论坛总结成为一系列文章,本文为系列中的第二篇。虽然深度学习系统经过训练可以对正常输入达到很低的误判率,但是当攻击者用系统化的方法能够生成误判样本的时候,攻击的效率就可以接近100%,从而实现稳定的逃逸攻击。
本文的目的是介绍被大众所忽视的人工智能安全问题,尤其是深度学习软件实现中的漏洞以及可能造成的隐患。随着一批深度学习应用逐渐开始变成现实,安全问题也渐渐显现出来。本文作为人工智能与安全的系列文章之一,首先介绍我们在深度学习框架中发现的安全问题。
勋章成就
稿费总计 0
发表文章 6
参与讨论 0
关注
0
粉丝
5