面向任务自主的大语言模型智能体权限控制与安全监管协同框架研究
A Collaborative Framework for Permission Control and Security Supervision of Task-Oriented Autonomous LLM Agents
-
作者:
姜安平
1
-
作者单位:
-
提交时间:2026-06-19 23:38:13
摘要: 针对LLM智能体面临的两大安全风险——语义鸿沟导致的误操作与代理式权限劫持导致的定向攻击,本文指出其深层共性在于黑箱系统的行为不可预测性,外部监管比“打开黑箱”更可行。为此,提出权限控制与安全监管协同框架:四级权限模型(L1~L4)实现操作粒度控制;白名单为主、黑名单为辅的最小权限策略;ClawKeeper三层架构(Skill/Plugin/Watcher),核心创新在于水平独立的Watcher实现运行时熔断与控制平面分离;以及附带可解释摘要的人工确认机制。以内网监管为场景构建240个测试用例,消融实验与四种基线对比表明:完整框架攻击拦截率达95.8%±1.5%,Watcher层贡献14.9个百分点边际提升,验证了水平独立监管范式的有效性。
版本历史
| [V1] |
2026-06-19 23:38:13 |
ChinaXiv:202606.00231V1
|
下载全文 |