人工智能来到你身边！安全和隐私如何保护？

【编者按】在国外，当Facebook开始将手伸向旗下WhatsApp的用户数据时，当Google推出了智能聊天应用Allo时，都受到了侵犯用户隐私的谴责。相反，当人工智能在国内被捧上风口时，却没多少人预先关心类似技术和产品对个人隐私的侵害。

世界上一些最知名的企业已经在信息安全方面投入了数百万美元。当然，他们的对手也是如此。但一些有恶意的人却希望你的防御系统主要是由人类操控的，而且所有的防御系统的操控方式都是一样的。

当你搬家时，你会换锁还是和你所有的邻居使用共享锁?试想一下，如果小偷仅仅知道了一个共享锁的密码，将会发生什么呢?出于某种原因，信息安全的世界有一种相同的锁定心态。一些“顾客”是有恶意的人，他们费尽力气想去侵犯他人的财产安全。考虑到这种情况，即便各个企业投入了大量资金，安全防护仍会失败，对于这样的结果我们也就不应感到惊讶。

要想网络防御者有机会赢得胜利，我们就必须开始公平竞争。供应商将他们的安全产品的相关副本分发给客户，只是因为这个方式对他们来说很容易，而不是因为这个行为对他们的客户更好。

一个反病毒公司应该为每个恶意软件样本生成多少个变种?所有基于主机的人工智能(AI)防御都能在病毒环境中学习吗?在过去，为每个企业定制这些方案是不可行的。幸运的是，网络安全研究逐渐出现了一些新的技术，它们可以为每一个客户提供独特的病毒检测软件，这些技术可以帮助维护公平竞争环境，甚至有助于企业在商业竞争中取胜。

这些新兴技术广泛地出现在人工智能和机器学习领域。任何人工智能系统的核心都是学习能力。一些人工智能解决方案从本地环境中学习，而另一些则从全局环境中学习。那些能够胜出的是那些利用只存在于客户的网络环境中的数据，并产生一种针对该环境的移动防御类型的数据，根据这些数据建立起某种或全部的威胁探测能力的企业。其中包括：

一种是实质上不同于当前企业之间的防御方式;

一种是随着时间的推移，它会随着环境的变化而不断演变的防御方式;

最重要的一种是，防御系统不会让攻击者事先知道，并且他们断定攻击者一定会失败。

类似于在密码中再次套入密码有助于保护信息不受损害，部署网络安全解决方案，利用网络环境将其与其他所有副本区别开来，有助于保护企业。

使用人工智能系统建立一个移动防御系统

人工智能可以使用数千个特征来判断网络中的内容是否有恶意，或者用户或系统行为是否异常。每一个特征都只提供了一个小的证据来判断是否有病毒。

但是这只有在复杂的组合中才有用。机器学习算法通过专门一段时间的训练，试图找出如何结合特征来产生准确的洞察和预测。

根据每个人工智能系统的方法，培训数据可以来自当地环境、全球环境或两者的混合。然而，与传统方法不同的是，所得到的模型从来都不是基于简单的规则或易于理解的模式。这些模型的自然不透明以及它们的动态构造为有效的移动防御提供了基础。

你可以通过调整训练集或时间来改变人工智能模型。额外的培训数据是否只是简单地添加或用来替换老的培训数据并不重要，因为结果是一样的。

新的模型使用现有的功能或使用全新的功能被创造出来。在人工智能和机器学习方面，量身定制的检测解决方案的成本是可以忽略不计的。然而，必须有一个解决方案提供者来启用这种方法。一些使用机器学习和人工智能的网络安全供应商仍然在以传统方式部署他们的模型，而不会利用本地数据来调整他们的解决方案。当然，移动防御也面临挑战，不仅仅是那些会继续试图打败它们的恶意行为者所带来的挑战。最重大的挑战是如何确保定制解决方案的平价问题。没有人想要“第二好的”检测模型。必须注意的是，任何技术在实际应用过程中都会产生一种具有统计意义的模型，在所有定制的变量中，检测精度和误差几乎是一致的。

很难找到比移动防御更好的安全概念。“改变你的锁”是最完美的安全建议之一。然而，在网络安全领域，有些锁比其他锁更容易改变。【责任编辑/刘凯】

注：本文转载自AI研究院，如有侵权，请联系我们

来源：AI研究院

IT时代网(关注微信公众号ITtime2000，定时推送，互动有福利惊喜)所有原创文章版权所有，未经授权，转载必究。
创客100创投基金成立于2015年，直通硅谷，专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。