/

新的AI安全攻防战打响。

文｜郑久宇 编｜张弘一出品｜商业秀

当你看到马斯克代言一个激进的投资产品时，有人告诉你，这其实只是诈骗犯通过剪辑马斯克的真实采访，并使用AI 技术复制其声音、口型来制作的一则虚假广告。

你可能不会相信，但真实情况是有人已经因此落入了黑灰产利用AI技术设下的圈套。

据《纽约时报》报道，自去年年底以来，马斯克时常出现在近1/4 的深度伪造诈骗视频中，其中一位82岁的退休老人Steve Beauchamp看到视频后，联系了广告背后的公司，随后在几周的一系列交易中花光了自己的退休账户，最终投资了超过69万美元。

在和金钱交易相关的场景下，各类基于AI技术的网络安全攻击现象逐渐增加，尤其是对金融行业的影响也愈加明显。因为金融机构聚集在云端的数据、钱以及资产，有高价值、高质量的特点，更易被趋利的黑客们攻击，进而威胁到整个金融生态。

和以往不同的是，这些金融安全攻击在生成式AI的“驱动”下，使防御方更难招架。腾讯云副总裁胡利明在近日“2024腾讯云金融安全峰会”上也指出，“从去年到今年，行业里逐步出现很多结合最新AI技术的新型攻击方法，使得攻击手段越来越多，而且成本越来越低。”

近些年来，金融行业的数字化转型面临着更多前所未有的安全挑战，比如高危漏洞、复杂攻击、数据泄露、勒索等各种问题层出不穷。业内有一个有意思的观察——随着金融数字化转型的推进，业务和系统越来越多，现在的金融机构已经成为一个高达100层楼的摩天大厦，而这栋楼里的每一扇窗，都可能成为攻击的对象。

面对新的技术挑战，在金融数字安全领域，越来越多金融机构主动和安全厂商一起加入到与黑客们的攻防对抗中，它们更早一步地研究对手和应用AI新技术，主动布局和实施新策略，试图找到围绕AI技术与数字安全的最优解。

-Business Show-01攻也AI，防也AI

在数字安全领域，随着AI技术的发展，以往那些技术含量较低的攻击手段，不仅正被大语言模型等最新技术替代，实现了大规模、低成本的攻击，而且攻击效果也呈现了“进阶”。

网络钓鱼邮件就是其中之一。近10年来，网络钓鱼邮件一直被用于诱骗受害者点击恶意链接或下载恶意附件。而随着大语言模型的诞生和迭代，黑客们借此技术生成了更加逼真和难以察觉的网络钓鱼邮件，进一步提升了受害者的受骗风险。

网络安全公司Darktrace的一份报告指出，攻击者使用ChatGPT等生成式 AI，通过增加文本描述、标点符号和句子长度，让社会工程攻击量增加了135%。

除了更逼真的语言，攻击事件中涉及的人声、脸部信息也愈发真实。比如，攻击者可以利用AI技术克隆公司高管或同事的声音，在电话中要求用户提供账号密码或直接转账；或是利用AI换脸异地登录用户的金融账号，实施转移财产。

随着技术的逐渐演变，辨别信息的“真伪”已成为整个行业棘手的难题。

腾讯安全副总裁、玄武实验室负责人于旸表示，这些年来在攻防对抗中，攻击队已开始广泛应用大模型。虽然大模型还不能完全替代人力，但可以极大地提高攻击效率，“以前很多在攻击队工作当中相对比较繁杂、但技术含量不高的工作，现在可以用大模型替代。”于旸说。

可见，在AI 技术不断演进的过程中，金融数字化转型中的“矛”和“盾”始终相伴而生——尤其是在金融安全领域，攻击方固然可以利用AI技术进行网络攻击，然而防御者同样可以借助“AI+安全”的手段强化防护。

过去，面对复杂的威胁，众多金融机构只能被动防御，如今防御方必须比攻击方更积极主动。腾讯安全服务总经理苏建东告诉「商业秀」，“如今的攻击方受利益驱动，永远会比防守方更早一步地去研究新的技术，找到新的技术弱点，然后利用它来发起攻击。而防守方基本上仍处于一个被动防守的状态。”

银行和金融机构是时候要转换思路了。苏建东认为，针对新型风险，金融机构应该与时俱进地去研究新技术，学习如何在全新的AI技术场景下开展风险防御。

当然，要让AI技术切实服务于金融数字安全，仅靠金融机构一己之力远远不够。政府、产品和技术提供商等各方都需共同关注、投入，达成“进化与安全并重”这一共识，在AIGC出现大规模爆发之际，更积极地迎接新质生产力带来的降本增效。

-Business Show-02AI大模型：在隐秘的角落理性的防守

在金融安全的前沿阵地上，部分率先遭遇AI 安全挑战的金融机构，已然开始将大模型塑造为防御体系的“智慧大脑” 。

对于任何一场安全攻防较量而言，梳理自己的防御面和暴露面，无疑是机构建立稳固防御机制的核心要诀。在这背后，需要大模型在“隐秘的角落”发挥作用，全力修补防御体系中潜藏于深处、尚未浮现于表面的漏洞。

那么，AI究竟如何帮助防御体系进行“查漏补缺”呢？腾讯云安全产品架构师张华在接受「商业秀」采访时总结道：

第一，在威胁情报的研判中，AI大模型可以降低外部混杂的、无效的告警或误报，提高可读性，减轻安全运营人员的压力。

第二，AI可以基于用户的长周期或短周期行为，有效发现内部人员的不当行为（如“内鬼”），并识别“影子资产”。

他进一步解释道，“影子资产”是指那些不在企业和组织IT部门掌控下的IT设备、软件及服务，这些资产缺乏有效的管理和监控，往往是攻击者关注的重点目标。其一旦被拿下，就可能成为攻击者突破安全防线的入口，为金融机构带来网络安全风险。

例如，“影子资产”就可能被攻击者利用，成为“僵尸主机”或“钓鱼”主机，甚至成为内网横向攻击的跳板。

第三，AI可以通过问答式处理积累知识库，增强运营人员的知识储备量，后者也是提高金融机构整体防御能力的重点。

总体而言，AI在数据的分类分级管控、安全事件的分析和过滤、威胁情报的辅助分析等诸多关键层面，给金融领域带来了实质性的帮助。当下，更多金融机构逐渐觉醒，意识到步入AI时代，自身的安全防御体系也该积极求变。

苏建东观察到，“金融行业的客户对安全非常重视，看到黑客针对AI大模型的攻击后，会主动来寻求合作。”他表示，目前合作需要主要围绕两个方面——一是聚焦于内容安全层面，杜绝AI大模型“胡说八道”的乱象；二是着眼于AI大模型本体的安全性防护，抵御黑客的恶意渗透和数据窃取行径。

不过，苏建东也指出，虽然在形式上金融安全防御正不断地融入前沿新技术，但鉴于当前AI技术尚处于发展的早期阶段，整个行业的安全防御逻辑并没有发生根本性的颠覆与变革。

在将AI技术融入金融安全防御体系的漫漫征途中，各参与方一直保持着谨慎和理性的态度——既巧妙利用AI技术的优势，全力提高防御的效率和准确性，又关注AI技术的局限性和风险，确保金融安全防御体系的稳健和可靠。

-Business Show-03安全领域的“防守大师”如何炼成？

可以确定的是，全球金融数字安全的形势日益严峻，如何在安全问题发生前最大化地做好防御，将是未来金融安全领域竞争的决胜点。

而腾讯安全、360安全、奇安信等更多安全厂商正在参与到这场决战中来，它们在行业前沿积极为金融机构提供最新的解决方案。

比如，为了让金融机构从被动防御变为主动防御，腾讯安全提出了“安全前置”策略。为了保证这个策略得以实施，腾讯实验室功不可没。苏建东表示，“腾讯多个实验室的研究团队，就像是一个‘智囊团’，预设攻击方可能利用的所有手法，并层层设置控制，实现安全前置。”

简而言之，在攻击方的动作发生之前，攻击问题就已经被防御方是识破并“解决”。同时，安全厂商也在进一步结合AI技术，为金融机构提供风控大模型、威胁情报、数据安全等领域的服务。

以风控大模型为例，过去大部分金融机构用的是一套“静态模型+动态策略规则”，很难应对未来黑灰产AI欺诈的态势。

如今，行业头部玩家提供的都是可以实现全面监控和管理的解决方案，比如腾讯云推出的智能风控体系，就包括了“获客+授信准入+贷中管理+贷后管理”的全流程。

据其公布的数据显示，目前腾讯安全已覆盖金融领域超过80%的标杆客户。

一个值得注意的现象是，近年来，越来越多安全厂商意识到，AI时代的安全防护，应该表现为全方位、全链路的安全闭环。

以某证券公司的攻防演练为例，腾讯云既提供了前期的自动化体检服务，也部署了4道防线。前期体检，主要是为了理清相关的资产、暴露面、脆弱性、收缩权限。在整体网络架构被识别或确定之后，进行必要的漏洞修复和网络管控措施。

不过，这其中存在的一大难点是，如果不能回溯到更久的时间，就很难发现更多关于安全攻击的线索，攻防也难以有效开展。

而腾讯今年新推出的NDR+安全湖的方案，解决了这一核心问题——金融机构长期积累的网络数据，可以进行低成本的存储、高效率的检索。数据显示，最远的回溯时间，从过去的一周提升到现在的6个月；检索的时间也从耗时几个小时，降低到3分钟左右。

此外，腾讯还部署了“四道防线”——腾讯云安全“4+N”体系中的“4”，即数据安全、主机安全、Web应用防火墙和云防火墙，借此解决金融云上安全的“基础设施建设”问题。

更重要的是，在解决了云环境下的基础设施安全后，整个网络安全的防御体系也不能忽略，两者在互相补充的前提下，共同构成了一个完整的安全防护体系。

腾讯的整个网络安全防御体系包括边界、终端、云上、云下等多个防御面。张华告诉「商业秀」，“腾讯安全通过一系列实战，如边界防御改造、天幕防护体系和旁路改造等，构建了一个全面的网络安全防护体系，不仅能有效阻挡外部攻击，还能减少单点故障对业务连续性的影响，提升安全运营效率。”

腾讯云副总裁胡利明认为，腾讯安全是在海量的攻击中能成长为“防守大师”，包括腾讯天幕、御界、东风等产品，都是在“自我测试”的场景当中积累起来的。

而如果从整个行业来看，新技术引发的金融安全问题，同时也带来了市场参与者的反思。无论是金融机构还是安全厂商，如果想要抓住AI安全行业大爆发的确定性机会，仍需共同搭建起一条互相协作、紧密联系的整体防御体系，在多方配合、实战积累和长周期投入中，完成AI安全的布局卡位。「完」

       原文标题 : 在金融隐秘的角落，AI安全“防守大师”如何炼成