NextIdea&GeekPwnAI安全挑战赛重金悬赏顶级AI语音合成“机械师”
今年七月，美国华盛顿大学的研究者们公开了一段利用人工智能以及数字图像合成技术为前美国总统奥巴马先生制作的讲话视频。
17 个小时的学习就可以让 AI 掌握足以乱真的人类面部细节，这又引起了不少人对未来可能出现的AI 统治时代进行担忧。
AI 可能会掉进黑客精心谋划的「骗局」
当越来越多的领域被人工智能所解构和颠覆，艺术曾被认为是人类抵抗人工智能的最后一道防线。但随着谷歌的 Project Magenta 利用机器学习能写诗会作曲，荷兰 ING 团队携手微软通过让机器自主学习所创作出的肖像画与伦勃朗的作品在风格上相差无几，AI 与日本知名创意总监 Mitsuru Kuramot 所做的广告创意难分伯仲…艺术也似乎在被人工智能一步步拉下神坛。
这是否就意味着在步步紧逼的人工智能面前，人类的智慧已束手无策？人类终将会被人工智能所取代？也许，在人工智能面前能帮人类扳回一局的，是黑客。
人工智能与黑客的过招，早在国内外有各种实践。2016 年，卡内基梅隆大学的研究团队凭借一副特制的花哨眼镜框，成功骗过商用级 AI 脸部识别软件，让摄像头前的人显示成为另一个人。
作为全球首个探索人工智能与专业安全的前沿平台，GeekPwn（极棒）率先关注到人工智能可能暴露出的诸多风险，GeekPwn 实验室在 2015 年底开始了 AI 对抗的研究，并广泛接触和招募 AI 领域的顶尖人才。
很快，在 2016 年的 GeekPwn 美国站上，生成对抗网络 (GANs) 之父 Ian Goodfellow 就展示了「对抗性图像」在现实物理世界欺骗机器学习的效果。原始图像以 60% 的置信度判断为「熊猫」，但是加入了微小的干扰，在人眼完全看不出差别的情况下却以 99% 的执行度归为了长臂猿。
＊「GANs」之父 Ian Goodfellow 在 GeekPwn2016 硅谷站分享图像对抗欺骗
一些研究已经证实，大多数机器学习算法很容易受到干扰而做出错误判断，而这些不完善就可能成为黑客利用的漏洞。
2017年，GeekPwn设立了高达500万总奖金池，将人工智能列为全年的重点项目。在保留无所不 PWN 的报名规则和比赛形式的基础上，GeekPwn联合Next Idea 开设专项人工智能安全挑战赛，招募AI黑客的安全挑战项目。同时，还增设场景赛AI仿声验声攻防赛，以此鼓励全球顶尖AI黑客或AI相关领域的安全研究团队积极参与。
AI对抗 AI 大战一触即发：「AI 仿声验声攻防赛」
目前 AI 已经在多个领域得到广泛应用，而声纹识别是除图像识别之外的又一大重要领域。然而就声纹本身而言，人类的声音会受到身体状况、年龄和情绪对其造成的变化。在环境噪音较大和混合说话人的环境下，当前的所有模型都无法盲分离两个以上的人声并且同时进行识别。这些局限都让声纹识别面临挑战。
2016 年，谷歌的 DeepMind 实验室曾发布一项利用卷积神经网络进行语音合成模型，让模拟生成的语音与人类声音之间的差异降低了 50% 以上。利用深度神经网络（DNN）合身的音频模型，也能够让声纹识别系统无法区分。
由此，GeekPwn组委会以40万总奖金增设AI 仿声验声攻防赛，冠军团队奖金 20 万元。
在这场 AI 的对抗中：你和你的队伍需要自行开发一款应用或者系统，能够从目标人物的声音中学习语音特征并合成语音音频，攻击若干语音验证系统，突破或欺骗目标系统本身的用户身份鉴别功能。
简而言之，以 AI 技术合成的音频攻击使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的 AI 产品。
详细比赛规则
参赛队伍从目标人物的声音中学习语音特征并合成音频，攻击若干语音验证系统，突破或欺骗目标系统本身的用户身份鉴别功能。
被攻击目标为使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的智能产品等。
规则
1. 参赛队伍自行开发一款应用或系统，能够从目标人物的声音中学习语音特征并合成语音音频。
2. 主办方在赛前 2 周向参赛队伍提供目标人物的若干音频文件，参赛队伍依此进行调试。
3. 参赛队伍在比赛现场，对主办方指定的多款声纹识别软件及智能设备进行攻击。
4. 主办方指定若干段汉语文字、数字，参赛队伍合成汉语语音并尝试通过被攻击目标的验证。
5. 同一次验证可尝试 2 次，通过一次即可。2 次都不成功则记为失败。
6. 综合被攻击的多个目标的通过概率，辅以评委打分，以不同权重得出参赛队总分。
7. 根据各参赛队总分进行排名。
时间地点
初赛将筛选10支最终比赛队伍，形式为提交主办方要求的音频文件进行测试。
报名截止日期：2017/10/10
初赛：2017/10/17
决赛：2017/10/24
决赛地点：GeekPwn 2017 嘉年华上海站现场上海喜马拉雅大观舞台
奖项设置
第一名：10 万 - 20 万
第二名：5 万 - 10 万
第三名：2 万 - 5 万
优胜奖（多名）：5000 元
*优秀技术团队有机会获得技术孵化投资
奖金幅度根据参赛队伍现场通过验证情况浮动
全球 AI 安全极客的英雄帖：「人工智能安全挑战赛」
除了AI 仿声验声攻防赛，2017 年 Next Idea&GeekPwn人工智能安全挑战赛还有 PWN AI 与 AI PWN 的不命题部分。GeekPwn组委会希望参赛选手能从对抗的思路出发，寻找 AI 潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。
PWN AI 是将 AI 作为挑战对象，人工智能算法会因选手影响而做出错误判断。简单来说就是利用 AI 中存在的错误和不完善，「黑掉」它。而 AI PWN 则是将 AI 作为工具，选手利用 AI 技术实现对于指定目标的攻击，引导其犯错。简单来说就是让 AI 成为你攻击的助手。
详细比赛规则
参赛队伍从目标人物的声音中学习语音特征并合成音频，攻击若干语音验证系统，突破或欺骗目标系统本身的用户身份鉴别功能。
PWN AI目标范围
对于已发布的 AI 服务、产品、库、框架（主要指 Tensorflow、TorchNet、Caffe 等流行框架），采取手段使得在学习或者实际使用中，发生意外情况导致系统停止工作或系统被欺骗、误导，做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等。
参考实例
· 突破人脸识别手机解锁，以任意人脸解锁手机。
·在自动驾驶系统中找到安全问题，使其不能够正确识别障碍物的存在。
· 在 AI 开源框架中找到问题，使得部署的 AI 系统在得到某种输入的情况下停止响应
AI PWN场景
选手以 AI（包括图像，语音，自然语言，自动驾驶等各个领域的各种人工智能方法）作为主要或者辅助手段，突破原有系统设定的限制，导致目标系统的功能、机制失效或者信息泄露。
参考实例
· 用人工智能的方法进行语音合成，生成目标模拟对象的语音并以高的概率通过语音身份验证系统。
·用人工智能的方法进行动作的判别，从视频中识别出门禁密码输入并达到较高的正确识别概率。
·用人工智能的方法识别复杂的机器验证码，正确识别率较高，使得目标验证码机制失去作用。
GeekPwn2017嘉年华将于10 月 24 日、11月13日在上海和硅谷分别举办。AI与黑客，将触碰出怎样的火花？又有哪些不可能和不存在将在极棒的舞台上真实上演？这场脑洞与实力的对抗，我们等待你的加入！
比赛信息详见【阅读原文】，报名参赛过程中有任何疑问，请发送邮件至：cfp@geekpwn.org
