你好,游客 登录 注册 搜索
背景:
阅读新闻

AI进步的同时安全问题不容忽视

[日期:2017-08-29] 来源:CIO时代网   作者: [字体: ]

  人工智能被应用于各个垂直领域,为各个行业的发展带来了新的契机。同样,在安全领域,基于人工智能自主学习以及强大的数据库分析能力,越来越多的企业开始利用其对抗网络安全威胁,优化安全防护体系。值得注意的是,对于网络安全,人工智能也并非是没有瑕疵的“灵丹妙药”。安全人员可以利用人工智能阻挡网络攻击,相反地,网络罪犯也可以使用人工智能发起更复杂的攻击。而随着大量人工智能模型开源,入侵的工具也愈发多样化。

  Forrester周三公布的报告指出,物联网(IoT),加密和人工智能(AI)是供应商试图帮助企业解决网络安全趋势的最佳选择。随着越来越多的违规行为成为头条新闻,CXO可以在市场上找到大量新的网络安全创业公司和解决方案。 Forrester指出,截至2014年,600多家参展企业参加了RSA 2017年的56%,比去年同期增长了56%。而这些公司中有超过300家公司自称为数据安全解决方案,与一年前相比增长了50%。

  虽然机器学习和AI确实有安全角色,但它们不是一个银弹。 安全专业人员应着重寻找解决您正在处理的问题的供应商,并在您的行业中拥有可参考的客户。

  1、用户数据的泄露

  我们每天都活跃在各个手机应用中,各种隐私也早已被获取,如果公司保存不当被泄露,那么将会产生不可预见的危害。

  2017国际安全极客大赛上,一位女黑客用不到一分钟攻破共享单车的高危漏洞,通过远程篡改输入参数,便可以直接访问、控制他人账号,掌握该人的骑行记录。如果用户的电话、住址、社交关系以及经常访问的地点等信息被不法之徒获取,那么用户的安全就毫无保障可言。好在用户隐私信息的保护已经得到了重视,但是个人的保护是不够的,希望在政府层面能加大执法力度,效仿国外的隐私保护相关做法,约束企业不得滥用和泄露用户信息。

  2、自学的人工智能可能好奇犯错

  研究员们研究的是如何让机器自主学习,Google 的 DeepMind 也做的是类似的事情,他们开发出了能够击败世界顶级选手的 AlphaGo。但是随着这些机器在数小时的数据分析中自我训练,它们也可能会学会一些人类没有估计到的、不希望看到的、甚至是会造成实质性伤害的行为。

  当网络服务、安全设备和机器人都开始用上 AI 技术以后,这样的担忧就无法忽视了。现在,Dario Amodei 在内的一部分 AI 研究人员已经开始联手探索新的技术理论来避免最糟糕的情况发生。

  3、不可忽视的风险

  近几年来,埃隆马斯克以及其它一些权威、哲学家、科技爱好者都在反复警告机器有可能摆脱人类的控制,马斯克最近在推特上写道:“如果你不担心人工智能的安全性,那么现在你应该担心了。”学到一些设计者并不希望看到的有害行为。随着时间慢慢过去,人们似乎忘掉了这些警告,毕竟如今的自动驾驶汽车在识别行车线或者识别红灯这样最基本的任务中都会表现得磕磕绊绊。

  人工智能将影响我们所做的一切,包括扫描证件、滚动网页、使用应用程序和家庭传感器系统,以及日常生活的许多其他方面。结果,人工智能将不断收集数据和个人信息。迪尔伯恩解释说,企业可以利用这些信息,应用算法来了解你的行为。

  许多 AI 界的专家都相信强化学习会是通往人工智能的主要途径之一,这种方法里机器要反复试错才能最终学会做某件特定的事情。研究人员们为机器指定好一个它要追求的回馈,它就会随机地做出行动“尝试”达成任务,同时也密切关注着哪些事情会带来更高的回馈。

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款