您当前的位置: > 详细浏览

面向任务自主的大语言模型智能体权限控制与安全监管协同框架研究

请选择邀稿期刊:

A Collaborative Framework for Permission Control and Security Supervision of Task-Oriented Autonomous LLM Agents

摘要: 针对LLM智能体面临的两大安全风险——语义鸿沟导致的误操作与代理式权限劫持导致的定向攻击,本文指出其深层共性在于黑箱系统的行为不可预测性,外部监管比“打开黑箱”更可行。为此,提出权限控制与安全监管协同框架:四级权限模型(L1~L4)实现操作粒度控制;白名单为主、黑名单为辅的最小权限策略;ClawKeeper三层架构(Skill/Plugin/Watcher),核心创新在于水平独立的Watcher实现运行时熔断与控制平面分离;以及附带可解释摘要的人工确认机制。以内网监管为场景构建240个测试用例,消融实验与四种基线对比表明:完整框架攻击拦截率达95.8%±1.5%,Watcher层贡献14.9个百分点边际提升,验证了水平独立监管范式的有效性。

版本历史

[V1] 2026-06-19 23:38:13 ChinaXiv:202606.00231V1 下载全文
点击下载全文
预览
同行评议状态
待评议
许可声明
metrics指标
  •  点击量1995
  •  下载量698
评论
分享
申请专家评阅