PG麻将胡了-(股份有限公司)官方网站

刘祥龙:安全防护应贯穿智能体任务执行全过程
栏目:行业资讯 发布时间:2026-09-20
   智能体正在从对话框里的“信息入口”进化为能够自主执行任务的“行动入口”。当它开始帮用户点击、操作、完成交易,安全防护的逻辑也必须随之重构——检查不能只盯

  

刘祥龙:安全防护应贯穿智能体任务执行全过程(图1)

  智能体正在从对话框里的“信息入口”进化为能够自主执行任务的“行动入口”。当它开始帮用户点击、操作、完成交易,安全防护的逻辑也必须随之重构——检查不能只盯着模型最终输出的那一句话,而应贯穿任务执行的每一步。

  近日,在经济参考报社与中国科学院软件研究所联合举办的“智能体时代的移动终端生态”研讨会上,北京航空航天大学教授刘祥龙提出了这一判断。在他看来,智能体面临的风险是多层级的:模型层有越狱和提示注入,行为层可能出现权限滥用和不可逆操作,交互层则面临GUI投毒和视觉欺骗,而当多个智能体逐层分工时,风险还会在委派链条中系统性放大——实验显示,多智能体场景下攻击成功率显著上升。

  “与其追求智能体永不犯错,不如通过系统级约束确保错误无法越界。”刘祥龙认为,安全防护既要关注模型本身,也要覆盖软件、硬件和网络环境;关键是让执行过程中的每一步操作都可检查、可追溯,核查其是否符合用户真实意图。

  研讨会之前,豆包SAEP协议发布,给出了与第三方应用主动协商授权的“公示期”模式,尝试通过事前公开、可持续调整的规则协商模式解决智能体实操场景的安全落地与效率平衡问题。

  刘祥龙建议,在智能体操作中加入审计环节可以降低安全风险,有利于让智能体安全防护真正聚焦于执行过程的可审计、可追溯。在保障安全的同时,规避额外授权环节带来的效率负担,助力产业实现规范化、高效化协作发展。