黑客王琦：教会人工智能骂脏话，是黑掉它的第一步（附演讲全文）

看看这个机器狗是怎么被训练的。用脚踹让它维持平衡，为难它。大家也许觉得这个人很恶心，机器狗很可怜。但我们从黑客的角度看到了就脊背发凉。如果这个机器人觉得踹一脚或是给别人一拳是正常的呢？

▲超能查派

有一个电影《超能查派》，这个小机器人刚做出来就被劫匪抢了，他出来以后觉得戴着粗金链子拿着这枪抢钱是正常的工作。我希望如果时代的发展，从伪智能到弱智能到强智能。真的走到哪一天，我们有义务让 AI 为我们安全地服务。

也许有人认为我是杞人忧天，但我认为恰恰相反。

AI 的决策错误现在通常被理解为仅仅是错误。但是安全领域里的经验告诉我们：现在的安全漏洞在很多年前也仅仅是错误，用黑客思维理解，就会明白很多错误其实就是可以利用的漏洞。

有人认为黑客思维对 AI 没有实质性帮助，我认为恰恰相反。

AI 之父图灵在二战的时候，也就是提出“机器会思考吗”的十年前，也是一名典型的黑客角色。黑客的逆向思考可能会帮助当前 AI 正向模拟神经网络中遇到的困难。

今年10月24日极棒大赛的时候，我们会公布新规则。有两个部分，一个是PWN AI，一个是AI PWN。左边是把人工智能干掉，也就是欺骗；右边是用人工智能干掉一些东西。

2014 年有个人在美国 Blackhat 上公布一个技术，在几十米外看到一个人输入密码键盘，从行为上就可以判断出他输的密码是多少。他的论文没有用到人工智能的部分，于是我们和人工智能的专家进行了沟通，如果输入一堆密码，通过机器学习的方法判断我输入的是什么密码——无论是单指是双指输入——去破坏掉安全，我们也欢迎这样的黑客。

如果我们利用自己的特长，能够未雨绸缪提前做一些事情，帮助 AI 正常的发展，非常有意义。这一步可能走得有点早，但我觉得只要走得早，一定有大收获。

王琦觉得，“脑洞大开”是黑客大赛的使命。

为此，他已经把战场搬到了在公海飘荡的游轮之上。

王琦回忆起第一届 GeekPwn 破解秀，在彼时用各种姿势攻破智能硬件可谓奇思妙想。但他坦诚地告诉雷锋网：

近些年 GeekPwn 上的项目确实创新不足。中国黑客在智能硬件上最 Low 的漏洞都可以超越美国人一大截，但大多都局限在“命题作文”。如果不去提示，很多人就不会去尝试新的破解领域。所以，十月的 GeekPwn 大赛我准备把主场放到美国，在中国我也要去主动划定新的研究目标。

带领一帮本身就领先于时代的黑客们去尝试，未尝不是一件辛苦的事。但这几乎是他唯一的使命和选择。

据此，AI 可能就是 GeekPwn 的下一个靶心。

本文作者史中（微信：Fungungun），雷锋网主笔，希望用简单的语言解释科技的一切。

雷锋网原创文章，未经授权禁止转载。

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!