阿里联合国际知名顶会IJCAI发起AI对抗竞赛

阅读量    39940 |

分享到: QQ空间 新浪微博 微信 QQ facebook twitter

报名地址:https://tianchi.aliyun.com/competition/entrance/231701/introduction

 

背景介绍

近年来深度学习技术的不断突破,极大促进了人工智能行业的发展,而人工智能模型本身的安全问题,也日益受到AI从业人员的关注。2014年Christian Szegedy等人首次提出针对图像的对抗样本这一概念,并用实验结果展示了深度学习模型在安全方面的局限性。我们可以通过对原始样本有针对性的加入微小扰动来构造对抗样本,该扰动不易被人眼所察觉,但会导致AI模型识别错误,这种攻击被称为“对抗攻击“。该成果引发了学术界和工业界的广泛关注,成为目前深度学习领域最热的研究课题之一,新的对抗攻击方法不断涌现,应用课题从图像分类扩展到目标检测。对抗攻击技术也引发了业界对于AI模型安全的担忧,研究人员开展了针对对抗攻击的防御技术研究,也提出了若干种提升模型安全性能的方法,但迄今为止仍然无法完全防御来自对抗样本的攻击。

IJCAI-19 阿里巴巴人工智能对抗算法竞赛的目的是对AI模型的安全性进行探索。这个比赛主要针对图像分类任务,包括模型攻击与模型防御。参赛选手既可以作为攻击方,对图片进行轻微扰动生成对抗样本,使模型识别错误;也可以作为防御方,通过构建一个更加鲁棒的模型,准确识别对抗样本。(报名地址:https://tianchi.aliyun.com/competition/entrance/231701/introduction)

 

赛事时间

2019年3月4日 10:00:初赛评测启动
2019年4月20日 10:00:报名截止&队伍融合截止(未完成实名认证的队伍将被淘汰)
2019年4月28日 10:00:截止代码提交
2019年4月29日 10:00:最后一次评测触发,初赛结束
2019年5月6日 12:00:入围复赛团队确定(排名前100)
2019年5月7日 10:00:复赛评测启动
2019年5月30日 10:00:截止代码提交
2019年5月31日 10:00:最后一次评测触发,复赛结束
2019年6月10日 12:00:入围答辩环节的团队确定

 

赛事详情

当人工智能模型本身存在缺陷被攻击时,那会是一种什么情形?可以想象一下:一条人潮涌动的大街上,有一个十字路口,一辆无人驾驶车驶了过来,禁止通行标识灯亮了,但因攻击者在灯上加了噪音,智能车将其识别为允许通行标识灯,继续高速通行,那后果不堪设想。

随着人工智能的大规模应用,安全会成为其发展的最大挑战。近日,阿里安全、阿里云天池平台联合人工智能领域国际顶级会议IJCAI(全称:International Joint Conference on Artificial Intelligence),发起人工智能对抗算法竞赛,探索对抗攻击时,如何解决AI模型的安全性问题。目前,赛题和日程已在天池平台公布。

阿里安全图灵实验室高级专家华棠介绍,这次比赛主要针对图像分类,包括模型攻击与模型防御,阿里公开110个类目,共计11万张左右图片,供选手使用。参赛选手可以作为攻击方,对图片进行轻微扰动生成对抗样本,使模型识别错误,或识别成指定的错误类别;也可以作为防御方,构建一个更加鲁棒的模型,准确识别对抗样本。

据了解,为强调面向真实场景,这次竞赛采用的是实际场景的图片识别任务进行攻防对抗。除真实数据外,还包括对计算量的严格限制,以及对扰动噪音的限制,这更能还原真实的安全与黑灰产的攻防。

对抗样本攻击是近几年学界与工业界才关注并热议的话题。在国际知名顶会NIPS2017年和2018年会议上,谷歌大脑曾连续举办对抗样本攻防竞赛,普及这一课题。不过,与阿里联合IJCAI举办的这次竞赛不同的是,他们利用的样本集均来自学术数据集ImageNet。

“未来的安全能力一定是建立在智能与算法基础之上,我们希望提供真实的、对抗的场景,建立前沿研究和具体业务之间的桥梁, 进而反哺和促进整个人工智能的发展。”阿里安全图灵实验室负责人、资深专家薛晖说,这也是阿里首次提出安全AI概念的初衷。

通过大赛发掘安全AI人才也是预期目标之一。据统计,每年国内安全人才缺口在几十万人,且在不断扩大,同时掌握安全和AI技术的人才更是少之又少。薛晖说,伴随AI、IOT的广泛应用,人工智能时代安全AI的研究和应用将会是一片蓝海,希望通过竞赛鼓励更多人共同研究安全AI。

据悉,经过初赛、复赛和答辩,排名前三甲的队伍,除获得一千至五千美元不等的奖金外,还会被邀请参加今年8月在澳门举办的IJCAI会议。包括清华大学朱军教授、中国科学技术大学张卫明教授、浙江大学纪守领研究员、阿里达摩院高级研究员华先胜等在内的AI安全领域专家担任竞赛的评审。

值得一提的是,朱军等指导的清华大学团队曾在NIPS2017对抗样本攻防竞赛中,战胜多家世界著名高校的团队,在三项比赛中全部夺冠;纪守领所在的NESA Lab提出了一种新型的对抗性验证码,在保持用户体验的同时,能防范来自打码平台等黑灰产的破解。

公开信息显示,IJCAI是人工智能领域最重要的国际顶级学术会议,被中国计算机学会推荐为计算机学科领域A类国际会议,从1969年开始每两年举办一次,自2016年起改为每年一次。

 

参赛对象

面向全社会开放,高等院校、科研单位、互联网企业等人员均可报名参赛。
注:大赛主办和协办单位,以及有机会接触赛题背景业务及数据的员工,放弃参赛资格;
阿里巴巴集团、蚂蚁金服、菜鸟的员工参赛,可参与排名,但不得领取奖金。

 

组队规则

参赛队伍可以是单人组队或自由组合,但最多不超过三人。
注:
1、每人只能参加一支队伍;
2、保证参赛队员报名信息准确有效,不得使用小号,否则会被取消参赛资格及激励;
3、报名方式:用淘宝或阿里云账号登入官网,完成个人信息注册,即可报名参赛。
4、选手交流钉钉群:23301258;钉钉群仅作为交流互动,赛题相关疑问请移步至论坛专区,有赛题负责人员值班,问题反馈更为迅速。

 

评测及排行

1、比赛提供一批训练数据,选手需要在阿里云容器服务上构建自己的镜像,提交镜像地址至天池;
2、评测在提交后触发,排行将在每天的10:00刷新 ,队伍一天内有一次提交机会;
3、排名规则具体在赛题和数据中说明,排行榜将选择选手在本阶段的最优成绩进行排名展示;
4、最终线上成绩以5月31日10:00排行榜成绩与排名为准;
5、禁止私下与队伍成员之外的人员分享代码和数据,鼓励在大赛论坛面向所有选手进行公开讨论。

 

奖项设置及激励

大赛分为3个赛道,各赛道将评选出冠军、亚军、季军各1支队伍,特别奖2支队伍,奖项面向Top20 内的队伍开放,将结合提交的资料进行选拔,以现场答辩确定最终排名。
冠军:1支队伍,USD 5,000
亚军:1支队伍,USD 2,000
季军:1支队伍,USD 1,000
特别奖:2支队伍,USD 1,000 /队 (作为参会差旅赞助提供)

差旅赞助:Top3 队伍将获得1,000美元/队的差旅赞助,前往于8月份在澳门举办的IJCAI 2019主会。

积分发放: 根据复赛最终排名,按天池积分公式获得相应积分
粮票发放: 根据复赛最终排名获得相应粮票:
第1-10名队伍:1000粮票
第11-50名队伍:400粮票
第51-100名队伍:200粮票
注:粮票根据队伍人数平均分配。

分享到: QQ空间 新浪微博 微信 QQ facebook twitter
|推荐阅读
|发表评论
|评论列表
加载更多