AI进步的同时安全问题不容忽视

Forrester周三公布的报告指出，物联网(IoT)，加密和人工智能(AI)是供应商试图帮助企业解决网络安全趋势的最佳选择。随着越来越多的违规行为成为头条新闻，CXO可以在市场上找到大量新的网络安全创业公司和解决方案。 Forrester指出，截至2014年，600多家参展企业参加了RSA 2017年的56%，比去年同期增长了56%。而这些公司中有超过300家公司自称为数据安全解决方案，与一年前相比增长了50%。

虽然机器学习和AI确实有安全角色，但它们不是一个银弹。 安全专业人员应着重寻找解决您正在处理的问题的供应商，并在您的行业中拥有可参考的客户。

1、用户数据的泄露

我们每天都活跃在各个手机应用中，各种隐私也早已被获取，如果公司保存不当被泄露，那么将会产生不可预见的危害。

2017国际安全极客大赛上，一位女黑客用不到一分钟攻破共享单车的高危漏洞，通过远程篡改输入参数，便可以直接访问、控制他人账号，掌握该人的骑行记录。如果用户的电话、住址、社交关系以及经常访问的地点等信息被不法之徒获取，那么用户的安全就毫无保障可言。好在用户隐私信息的保护已经得到了重视，但是个人的保护是不够的，希望在政府层面能加大执法力度，效仿国外的隐私保护相关做法，约束企业不得滥用和泄露用户信息。

2、自学的人工智能可能好奇犯错

研究员们研究的是如何让机器自主学习，Google 的 DeepMind 也做的是类似的事情，他们开发出了能够击败世界顶级选手的 AlphaGo。但是随着这些机器在数小时的数据分析中自我训练，它们也可能会学会一些人类没有估计到的、不希望看到的、甚至是会造成实质性伤害的行为。

当网络服务、安全设备和机器人都开始用上 AI 技术以后，这样的担忧就无法忽视了。现在，Dario Amodei 在内的一部分 AI 研究人员已经开始联手探索新的技术理论来避免最糟糕的情况发生。

3、不可忽视的风险

近几年来，埃隆马斯克以及其它一些权威、哲学家、科技爱好者都在反复警告机器有可能摆脱人类的控制，马斯克最近在推特上写道：“如果你不担心人工智能的安全性，那么现在你应该担心了。”学到一些设计者并不希望看到的有害行为。随着时间慢慢过去，人们似乎忘掉了这些警告，毕竟如今的自动驾驶汽车在识别行车线或者识别红灯这样最基本的任务中都会表现得磕磕绊绊。

人工智能将影响我们所做的一切，包括扫描证件、滚动网页、使用应用程序和家庭传感器系统，以及日常生活的许多其他方面。结果，人工智能将不断收集数据和个人信息。迪尔伯恩解释说，企业可以利用这些信息，应用算法来了解你的行为。

许多 AI 界的专家都相信强化学习会是通往人工智能的主要途径之一，这种方法里机器要反复试错才能最终学会做某件特定的事情。研究人员们为机器指定好一个它要追求的回馈，它就会随机地做出行动“尝试”达成任务，同时也密切关注着哪些事情会带来更高的回馈。