腾讯丁珂： AI大模型是当前网络安全产业最大变量

编者按：AI大模型的蓬勃发展将深刻影响网络安全产业，未来可能会催生一些新的安全敞口和攻击手段，网络安全产业将面临着全新的机遇和挑战。近日，腾讯安全提出的“数字安全免疫力”概念受到广泛关注。“数字安全免疫力”究竟是什么？面对网络安全产业发展的新趋势、新特点，企业究竟应该如何打造自身“数字安全免疫力”？怎样应对以AI大模型为代表的新技术带来的潜在安全风险？6月13日，中国电子报总编辑胡春民与腾讯集团副总裁、腾讯安全总裁丁珂围绕上述问题进行了深度对话。

对话人：

腾讯集团副总裁、腾讯安全总裁丁珂

中国电子报总编辑胡春民

时间：2023年6月13日

地点：北京

新技术与网络安全正处于博弈关键期

胡春民：当前，网络安全受到了高度重视，同时这个产业也在高速成长中。作为深耕行业的专家，你认为这几年网络安全行业发生了哪些变化？有什么特征？

丁珂：作为一个从业者，首先，我最大的感触是现阶段网络安全发展还处在一个强规范的周期中，得益于国家层面积极部署、法律法规的不断健全，网络安全相关边界以及集体性、系统性的思考比以前进步了很多。

其次，网络安全的定义正在从传统的边界安全以保护办公流程为主用途，逐渐向保护企业核心资产的方向发展。同时，网络安全已经渗透到供应链管理、风控反欺诈、客户优质数据资产和业务资产保护等核心业务场景之中。伴随企业自身数字化能力进一步增强，大家对网络安全的定义、建设的范式和创新技术要求也在与时俱进。

最后，在网络安全技术解决方案方面，本土安全厂商的自主创新能力与水平不断提升。尤其值得一提的是，AI大模型的蓬勃发展将为网络安全产业带来大变量，未来可能会催生一些新的安全敞口和攻击手段，从而倒逼网络安全产业的快速演进。比如，AIGC（生成式人工智能）可能会让以前需要人工编排的钓鱼邮件等攻击方式门槛大幅降低，也可能会让诈骗视频中的脸和声音以假乱真。这个过程是攻防双方博弈的关键时期。

胡春民：近年来，网络安全事件层出不穷，涉及互联网、金融、汽车等各行各业，与日常生产、生活场景息息相关。请问这些网络安全事件呈现哪些新特点？

丁珂：这几年，网络安全事件在全球范围内愈演愈烈。最常见的一类是以违法获取企业所属的用户数据资产和隐私为手段，达到勒索、诈骗的目的，相关黑产逐步形成和扩大。实际上，黑灰产、不法黑客的技术手段演进得非常快。PC年代最早出现的病毒“蠕虫”其实原本是一个用来炫技的恶作剧。而发展到今天，攻击方明显变得越来越趋利了。公开数据显示，到2031年，全球因勒索软件造成的损失将超过2650亿美元。

目前来看，比较典型的网络攻击主要有两类：一类是DDoS拒绝服务攻击。黑灰产或者网络罪犯以低成本的大流量攻击式访问目标服务器，导致线上服务在短时间内宕机，3-4个小时内让用户不能连接服务器，造成企业巨大的经营损失，这类攻击在金融服务和电商、在线游戏等服务里比较常见；另一类是数据泄露。企业数据资产的价值越来越高，如果防护手段不足的话，一旦这些数据泄露出来，企业容易被勒索，流出去的数据又会形成次生灾害，导致严重后果。

胡春民：网络安全事件频发给行业带来哪些改变？能否以工业制造业为例谈一谈新变化、新趋势？

丁珂：网络安全涉及的领域越来越多，根本性的原因在于千行百业的数字化程度都越来越高。传统观念中制造业的数字化程度不高，但其实并非如此。哪怕是做一些电子零配件的制造企业，也已实现了设计图、用户资料等有价值数据的线上化。

智能工厂正在由传统的工业制造向工业4.0的方向升级，然而坦率地讲，多数智能工厂仍处于数字化的阶段，更多的是把数字化变成传统企业管理流程的辅助工具，而不是真正意义上的把人流、物流、信息流与营销关联在一起，这个行业领域的安全管控和安全态势仍处在成长阶段。

智能网联汽车是一个新课题，也是一个复合性的课题。它不仅是简单的制造，而是大规模应用了智能驾驶、实时路况判断等各种数字化能力，车辆控制系统需要上传实时数据，导航也要跟云端强交互，因此存在诸多安全隐患。

腾讯和国内绝大多数的汽车制造新势力、转型的传统汽车厂商建立了深度合作。早在2016年，腾讯安全科恩实验室就曾以“远程无物理接触”的方式成功进入了特斯拉的网络安全系统，彼时在全球尚属首次。简单地说，研究人员只需坐在办公室，就能通过技术手段干扰智能汽车的传感器和算法，从而实现解锁车辆、调节转向灯、突然刹停等远程控制。科恩实验室将发现的所有漏洞细节都提交给了特斯拉官方，特斯拉安全团队也在第一时间展开了对漏洞的修复工作。后来，腾讯安全也深入参与到车厂智能系统、车机、智能驾驶等的开发过程中，通过深入合作排除一些潜在的安全问题。

安全防御思路逐渐从“被动”转为“主动”

胡春民：伴随网络攻击手段不断发生变化，网络安全企业和网络安全市场的着力点有没有发生改变？

丁珂：第一，企业安全保护范围更加偏向于头部资产，比如企业数据资产和用户隐私数据。现在很多的企业，尤其是互联网企业，最值钱的资产就是用户数据、交易行为、活跃度等。因此在做安全建设、体系化规划时，会把以前简单的纯边界防护，调整到以数据作为安全防御的核心。

第二，业务安全、业务风控变成了企业安全保护的关键范畴。事实上，企业现在的业务，跟企业核心的资产流、供应链、信息流、物流以及跟客户是没有办法完全隔绝的，所以像防火墙、内外网隔绝等传统的安全防护手段正在失效。最近几年，我们已经进入了“复合驱动”的安全时代，在国家政策、网络安全形势、企业需求等多方因素的复合驱动下，安全防护思路和手段也在随之变化。

第三，主动防御思路正在被越来越多的企业用户接受与认可。首先要明确企业核心数据资产是什么，安全边界在哪里，每个人的权限是怎样的，并在这个基础上动态地根据安全事件去反应，这样才能让整体的安全防御思路变“被动”为“主动”。

胡春民：包括人工智能、量子计算、5G、Web3.0等在内的很多新技术，对网络安全产生哪些新的挑战？

丁珂：每一项新技术对整个数字系统都会带来新的变量，而且会带来不同的影响。相较之下，以GPT为代表的AI大模型的发展，对我们这些安全从业人员的震撼是最大的。之前一直感觉大模型可能是十年一遇或者二十年一遇的新技术挑战和机会，但是随着研究的深入，越来越感觉它很可能是一个百年一遇的新机遇和挑战。

不过，大模型在国内落地应用所面临的第一道坎就在于它的内容合规性、合法性以及能否符合文化道德的要求。模型大到一定程度的时候，首先模型的可解释性难度就非常大，一旦出现问题，将会很难溯源或者调整。其次，大模型还很容易受到“Promote攻击”（增进式攻击），即使用者通过反复、多次提醒对大模型进行引导，可能会使模型给出不合适的答案。这些不完全是技术问题，需要有法律法规的界定。

其实，大模型的能力在安全应用的潜力还远远没有被完全挖掘出来。比如可以给模型一类病毒或者一类攻击方法的数据让它去学习，它可以做出很多类似的东西，它的学习能力是非常强的。但是如果这种能力被反过来利用，所产生的破坏力也非常大。腾讯实验室目前正在探索应该如何防御此类攻击。

胡春民：大模型在建设初期的时候，安全问题是不是要前置？

丁珂：不仅像腾讯安全这样的安全厂商在考虑大模型带来的安全风险，还有很多GPT大模型厂商本身都在拉高前置安全的门槛。从国内来看，厂商对大模型生成内容安全的要求，会比国外走得更快。其实GPT只是一个效率非常高的工具，怎么用它，如何制定规则，尤其是建立类似免疫力的规则，现在我们仍处于前期培养阶段，需要逐步完善。

胡春民：Web3.0的安全难点在什么地方？

丁珂：Web3.0最大的技术难点是，由于去中心化导致安全风险也会分散，一旦中枢节点被绑架，会让整个链条产生风险。在巨大的利益下，黑灰产很容易利用新技术去发动更有杀伤力的攻击，频发的安全事件很可能会让人们对这个新技术的信任基础变得非常薄弱，特定场景中的信任度会大受影响。现阶段，Web3.0在管理上存在主责缺失的问题，只有先明确责任主体，才能开展业务。

“数字免疫力”怎么理解？如何建设？

胡春民：腾讯安全提出的“数字安全免疫力”概念应该如何理解？能不能分享一些具体案例？

丁珂：“数字安全免疫力”的主体是企业。企业数字化快速发展的过程就像一个人在逐渐长大，面对的风险越来越大，可能会接触到的病毒越来越多。构建“数字安全免疫力”的核心是清晰界定自身的核心价值，并建立一套有针对性的防御机制。首先要从端点安全、边界安全和应用开发等维度，设置安全防御边界，做到“皮肤级别”的安全防护。然后逐步往内，威胁情报和安全运营管理体系就像是人体血液里的白血球一样，可以时刻帮你监测周围情况，做好提前预防，或者及时处置。

企业核心数据资产就相当于人的内脏和大脑，业务流转就像是运动系统、肌肉系统等的运转，这一类系统都会有相应的安全能力和工具。相较于以前，最大的不同是一旦碰到安全风险问题，体内的免疫机制会自发地把风险排除在体外，或者把入侵伤害控制在很小的范围，并进行及时处理，这是我们基于免疫力的新安全范式的相关思考。

腾讯自身有超过20多年构建安全体系的经验，基本是按照数字安全免疫力建设的思路在做。由于腾讯有比较丰富的业务形态，比如互娱类、内容类、即时通信类等，我们对自身核心的数据资产做了清晰的界定和用户隐私保护，这个机制相当于在血液里面已经形成了白血球。同时，我们构建了云原生体系，从最初的系统底层建设开始，再到数据的流转，以及业务流程设计等方面，都在层层免疫，做到了“细胞级”的安全防御等级。

同时，我们也把这种安全服务提供给客户，帮助他们建立“数字安全免疫力”。比如顺丰，其业务特征导致其有庞大的终端接入量，业务流程复杂，易受攻击。通过在零信任应用、终端权限分类、边界保护等方面的合作，我们帮助顺丰形成了原生型的安全能力，快速提升了企业内部的安全免疫力。另外一个例子是江苏银行，银行系统特殊的业务属性导致其交易都很闭环，容易做数据模型。我们用联邦学习建模的方法帮助他们提升风控效率，经过模型判定是否批贷以及批贷的额度，有效提升了其贷款效率，促进了银行业务的健康发展。

胡春民：在AI时代，你对企业首席安全官（CSO）的工作有什么建议？

丁珂：国内大企业的CSO群体这两年成长很快，在专业能力上相对成熟。但在有些领域，尤其是从传统行业转向数字化时，可能普遍面临两个鸿沟：一方面，在整体信息化规划时，对数字资产、业务资产核心定位缺乏意识，对安全投入也不够充分。很多企业早期在做IT预算的时候会把安全当成投入项，不重视、不投入。然而过了一段时间就会发现安全非常重要，这时候再基于安全的目标重组数字化系统，拆旧建新的成本非常高，系统也非常的复杂。所以安全建设必须提前规划，明确资产核心价值，把安全变成一件常抓不懈的事。

另一方面，在构建网络安全体系时，传统的惯性思维还是要建防火墙，通过把内网封住来保障数据安全。但实际上，现代企业的业务不可避免地会与用户产生海量的数据交互，数据泄露防不胜防。所以我们需要“数字安全免疫力”这样一个全新的安全范式，尤其是在前期信息化建设阶段就要联动布局、综合考虑。

数字安全免疫力并非是一套工具，也不是面向企业销售的一套安全产品，而是我们和数千位CSO、数十位行业专家学者共同提出的一套安全建设范式。它更像是一套“教材”，让企业管理层按照这套学习方法逐步建立自身具有弹性、自适应、可扩展的安全能力，从源头出发，彻底解决被动安全防御的问题，为企业长期稳定发展提供支撑。