互联网资讯 · 2025年10月23日 0

生成式人工智能与智能代理推动网络安全进入新阶段

生成式人工智能的发展让网络安全攻防进入一个倍速时代。生成式AI正在将网络安全推向一场攻防不对称的智能战争,攻击者与防御者的能力差距正被AI技术迅速拉开。

攻击的智能化转折点。

过去识别钓鱼邮件依赖拼写错误或可疑链接。如今这些信号被AI彻底抹去。攻击者借助大语言模型,能生成流畅自然、甚至包含真实项目细节的邮件内容;通过语音克隆和视频合成,他们还能伪造高管音视频,在几秒钟内制造逼真的授权场景。一封伪装成财务沟通的邮件或一通冒充CEO的电话,都可能造成真实损失。

更复杂的是,攻击方式正在演变为持续、跨渠道的智能运营。攻击者不再只是群发邮件,而是通过智能代理系统自动分析受害者反应,在电子邮件、短信、社交媒体甚至语音通话之间灵活切换,持续操控目标。研究者将此趋势称为高级持续性操控(Advanced Persistent Manipulation,APM),它与传统APT类似,但目标从系统漏洞转向人类信任。

防线重构:信任危机与防御失衡。

生成式AI不仅提升了攻击精度,也让攻击的经济模型彻底改变。攻击者能以几乎为零的成本同时针对数千名受害者发动个性化攻击,而防御方却需要耗费大量人力进行验证与分析。安全运营中心的工作负荷因此急剧上升,传统的防御体系陷入效率不对称。

王跃霖指出,这场AI攻防的加速赛不仅是技术的较量,更是企业信任体系的重建过程。数字信任的边界正被AI重新定义,企业需要重新思考验证、授权与沟通的方式。

以智能对抗智能:五大安全支柱。

对AI驱动的攻击,企业需要建立AI原生的防御体系,从架构层面对防护进行重构。

AI驱动防御:通过机器学习分析语言模式与沟通语境,而不是仅凭传统特征识别来判断。

扩展零信任原则:零信任不仅限于网络访问,还应延伸到邮件、协作平台与移动通信,建立多向统一的验证与防御机制。

可扩展协作响应:通过跨平台数据关联,整合终端、身份、网络与邮件信息,识别跨平台的攻击链。

强化移动安全:随着短信诈骗上升,能够在 iOS 与 Android 端防御来自短信、社交消息与浏览器的恶意链接。

自动化响应:在AI攻击面前,响应速度决定成败。系统能在数秒内隔离账户、封锁攻击基础设施,实现防御自动闭环。

王跃霖强调:我们并不追求一步到位的完全自治,而是沿着手动—辅助—增强—监督—自主的路径逐步演进。这种渐进式智能安全,将帮助企业在AI时代保持可控与透明。

CISO的新课题。

AI带来的不仅是技术挑战,还有治理与合规的压力。监管机构要求企业在数日内上报重大网络事件。董事会与保险机构也在要求CISO展示AI威胁防御能力与量化指标。AI安全正在成为企业治理的新支点。

AI安全不是一家公司所能覆盖的全景,必须依靠开放协作。AI攻防的未来属于生态化共建。领先企业已部署AI原生安全技术,以智能匹配智能、以速度对抗速度。企业竞争力在于体系化应变与跨界协同。