McAfee CTO：人工智能如何改变网络安全和网络攻击

 
人工智能正在席卷几乎每个行业，在用于提供更好的网络安全之类的软件上提高了智能水平。迈克菲(McAfee)是行业中的佼佼者之一，它正在将AI功能添加到自己的工具套件中，以保护用户免受日益自动化的攻击。
过去几年中，一大批新兴公司(例如以色列的Deep Instinct)都获得了资金，以将最新的AI集成到企业和消费者的安全解决方案中。迈克菲首席技术官史蒂夫·格罗布曼(Steve Grobman)说，但是对于保护者使用AI来阻止网络攻击的保护者来说，还没有一个圣杯。
格罗布曼(Grobman)谈到了AI在网络安全方面的优缺点，其中仍然需要人为因素来发现最新的攻击。
使用AI来改善网络安全性的挑战之一是它是一条双向的街道，是猫和老鼠的游戏。如果安全研究人员使用AI来捕获黑客或防止网络攻击，则攻击者还可以使用AI隐藏或提出更有效的自动攻击。
格罗布曼(Grobman)特别关注使用改进的计算能力和AI来创建更好的深造的能力，这使真实的人似乎在说和做自己未做的事情。我采访了格罗布曼(Grobman)，他对我们的AI在安全特刊中的看法。

 
VentureBeat：我与Nvidia通话，询问他们对AI的跟踪情况。他们说，他们现在知道12,000至15,000个AI初创公司。不幸的是，他们没有针对安全的AI初创公司列表。但这似乎是一个拥挤的领域。从您的角度来看，我想对此进行更多探讨。重要的是什么，我们如何将现实与制造了众多AI安全创业公司并为其提供资金的炒作区分开来?
史蒂夫·格罗布曼(Steve Grobman)：使用复杂的AI的准入门槛已经下降，这意味着几乎所有处理数据的网络安全公司都将考虑并可能以一种或另一种形式使用AI。话虽如此，我认为围绕AI的炒作和嗡嗡声使它成为公司通常会呼吁的领域之一，特别是如果它们是初创公司或新公司，而他们没有其他基础技术或声誉[尚]。在2019年和2020年做一件非常容易的事情，说：“我们将复杂的AI功能用于网络安全防御。”
如果以McAfee为例，我们在整个产品线中都使用AI。我们将其用于后端分类。我们将其用于检测端点上的未知恶意活动和未知恶意软件。我们将所谓的人机团队，安全操作员与AI结合使用，以进行调查并了解威胁。我们必须准备好让所有人(包括对手)都可以使用AI。
VentureBeat：我们一直都在谈论当网络攻击者或防御者的任何一方承受压力时发生的猫猫游戏。您拥有一场技术竞赛：如果您使用AI，他们将使用AI。作为这方面的现实检查，您是否看到攻击者正在使用AI的情况?
Grobman：我们可以推测它们是。确切地知道是否已经通过AI引导了某些类型的攻击有些困难。我们看到事件产生的结果，而不是看到事件的组合方式。例如，对手使用AI的方法之一就是优化他们关注的受害者。如果您认为AI可以很好地解决分类问题，那么让一个坏演员来确定最脆弱的受害者，或者可以带来最高投资回报的受害者，那就是AI非常适合的问题。
挑战的一部分是我们不一定要了解他们如何选择受害者。我们只是看到那些受害者成为目标。我们可以推测，由于他们的明智选择，他们很可能使用AI进行了某些分析。但是很难明确地断定这一点。
人工智能正在出现的另一个领域是……内容的创造。我们在安全性方面担心的一件事是使用AI来自动执行自定义的网络钓鱼电子邮件，因此，您基本上可以大规模部署鱼叉式网络钓鱼。您有一个自定义便笺，很有可能受害者会跌倒，这是使用AI制作的。同样，很难查看网络钓鱼电子邮件并知道它们是否是人为确定生成的，或者是在基于AI的算法的帮助下生成的。我们清楚地看到这里的研究领域正在发生很多事情。自动生成文本和音频的工作很多。显然，从信息战的角度来看，深造假是我们非常感兴趣的东西。

 
VentureBeat：这与面部识别安全性有关，对吗?
Grobman：有一些与面部识别有关的元素。例如，我们已经进行了一些研究，以供您查看-您能否生成看起来像与面部识别系统所训练的图像完全不同的人的图像，并因此而使该系统误以为是真实的人该系统正在寻找?但我也认为，这是信息战的一面，更多的是说服人们某些事情发生了-有人说或做了实际上没有发生的事情。特别是当我们接近2020年选举周期时，认识到以信息战为目的的伪造品是我们需要关注的事情之一。
VentureBeat：是Facebook或Twitter上的东西吗?还是McAfee有理由注意这种欺诈行为?
Grobman：迈克菲(McAfee)选择它的原因有很多。第一，我们试图了解检测技术的最新发展，以便如果视频确实出现了，我们就能够提供最佳评估，以评估我们是否认为该视频是经过深造过程而被篡改的，或有其他问题。除社交媒体之外，其他类型的组织也可能具有取证能力。例如，新闻媒体。如果有人给您一个视频，您希望能够了解该视频是真实的，人为操纵的还是伪造的。
我们一直在用假帐户看到这种情况。有人会创建一个名为“ AP Newsx”的帐户，或者他们会稍微修改Twitter句柄并从正确的帐户中窃取图像。乍一看，大多数人都认为这是AP发布视频的原因。组织的信誉是可以使内容可信的一件事，这就是为什么信誉良好的组织需要工具和技术来帮助确定他们应该相信的基本事实，而不是应该更加怀疑的东西。
VentureBeat：好像您已经准备好一天在某种违规行为中使用Deepfake一样，因为我们已经习惯了虚拟人的想法。我在今年早些时候参加了虚拟人峰会，这是关于创建看起来像真实的人造人的一切。其中包括在日本举办音乐会的虚拟有影响力人士。但是，将这些用于欺骗目的是回到您身边的地方……
格罗布曼：有趣的是。相同的技术可以用于善恶目的。如果您可以使人的外观和声音真实，则可以考虑将其很好地利用。处于帕金森氏病晚期或另一种障碍会挑战他们说话能力的人-如果您可以为他们提供允许他们与亲人交流的技术，即使是在令人衰弱的疾病的晚期，那显然是积极使用这项技术。
另一方面，CEO似乎在声明要召回其产品，或者说当他们实际上处于非常不同的水平时其收益处于一个水平，并以此来推动股价上涨。这为各种金融犯罪开辟了道路，在这里犯罪分子可以不必通过窃取信息来操纵市场，而不必窃取数据。
 
VentureBeat：您已经识别出一种称为“模型黑客”的东西，它是对机器学习系统本身的攻击吗?
Grobman：我们在对抗性AI技术和防御方面正在进行许多工作。我们正准备让犯罪分子使用使AI模型失效的技术。我们正在做的一些研究是为了最好地了解这些对抗性技术的工作原理，然后我们还致力于缓解措施，以使我们的模型更健壮，更不容易受到其中某些功能的影响。这是一个非常活跃的重点领域。