返回上一页
跳出“模型唯大论” 持续提升体系化防御能力
来源:科技日报 作者:朱虹 2026-10-21
当AI大模型可以自主完成极为复杂的攻击过程,网络防御还能单纯依靠堆大模型参数来守住防线吗?近日,一场以“从网安超级模型到网安超级智能”为主题的技术报告会在哈尔滨工业大学先进技术研究院举行。
“新技术正在整体改写网络空间对抗范式。”安天科技集团董事长、首席技术架构师肖新光认为,“网安超级智能并非单一超大模型。”
技术实践揭示AI自主攻击能力已成为现实。AI赋能的攻击不只是批量化的漏洞挖掘,而是可完全自主完成目标选择、攻击代码编写、初始侦察、投放利用、持续控制、横向移动等完整攻击杀伤链,攻击自动化程度大幅提升,留给防御端的响应窗口被持续压缩。
“由于智能体具有真实环境权限、能够调用工具、访问真实业务,仅依靠提示词这类软约束,无法杜绝越狱行为。”安天科技集团高级副总裁、首席技术官关墨辰认为,必须配套工程层面的硬性管控手段,来强化“模型+智能体”在严格受控下完成任务的能力。
“网安智能能力可以看作一套相乘关系的综合体系,最终能力水平由模型、智能体挽具、上下文工程、工具集、目标场景资源和治理工作流共同决定。”肖新光提出,要想实现真正的网安超级智能,还需要完善观测接入、状态建模、策略求解、处置执行、效果验证和安全控制的一整套机制。
要搭建起完整的安全智能体系,首先要破解仿真交互训练、高质量安全数据集不足的现实瓶颈。中国人民大学教授赵鑫研究发现,大规模可验证的安全训练素材稀缺,已成为制约安全智能体迭代的一大障碍,业界也在探索借助世界模型,降低重型仿真环境带来的高昂资源成本。
同时,大模型与生俱来的幻觉问题,会直接干扰安全研判结果的可靠性。想要让智能体研判有据可依,离不开外部知识体系的约束。南京大学教授夏睿团队的研究,便尝试利用知识图谱对齐推理路径,以此改善大模型推理的可解释性。
“面向防御场景发展网安超级智能,必须守住三条核心底线:目标受限、权限受控、全程可审计。”肖新光强调,“不能一味追逐模型参数指标,发展网安智能的核心目标是切实改善网络安全状态,不能认为有了通用大模型就能解决全部防御难题。”
(实习生 索瑞霞)
- 上一篇:“AI+器官芯片”加速创新药研发
- 下一篇:我国油气管网探索形成甲醇输送新格局
最新资讯- 工业和信息化部:稳妥有序扩大智能网联汽车场景应用
- 新华鲜报|主业聚焦数据领域,这家新央企揭牌亮相
- 能拍“分子电影” 这台世界顶尖大科学装置首次出光
- 谷神星一号海射型遥八运载火箭发射成功
- 我国将建设一批专精特新赋能中心
- 国际科学理事会中期会员大会首次落地北京
- 我科学家在量子声学领域取得重要进展
- 我国已建成5G工厂1260个
- 我国自主研制的极地船舶“心脏”下线
- 新方法可引导合成分子形成特定三维结构
- 全国产500米级超长综采工作面智能化成套装备试运行
- 我国油气管网探索形成甲醇输送新格局
- 跳出“模型唯大论” 持续提升体系化防御能力
- “AI+器官芯片”加速创新药研发
- 天王星与海王星深层大气化学成分差异显著
手机版

公众号

头条号


