360人工智能安全研究院_智能体安全新范式:当AI有了手和脚,企业安全边界必须重建_20260527

🏢 360人工智能安全研究院 📅 20260527

📊 AI 智能摘要

【核心观点】 报告指出,AI安全已从'生成风险'转向'执行风险',智能体(Agent)开始调用工具、访问数据、执行任务,导致安全边界必须扩展到身份、工具、数据、行为和运行环境等多个维度。报告提出六层攻击面模型和AER智能体执行风险指数,帮助企业识别和管理智能体风险,并强调'先安全,后自治'原则。 【关键要点】 • 智能体安全风险已从'说错话'转向'做错事',需防范合法动作的非法后果。 • 企业安全边界需扩展到身份、工具、数据、记忆、行为和运行环境。 • Skill正在成为Agent生态的供应链风险入口,存在数据泄露、资产盗用等系统性风险。 • 提出六层攻击面模型和AER指数,帮助企业评估和管理智能体执行风险。 • 建议企业遵循'先安全,后自治'原则,建立风险分级和治理路线图。 【风险提示】 ⚠ Skill供应链风险可能导致数据泄露、资产盗用等系统性风险 ⚠ 智能体执行风险可能超出传统安全手段的防护范围 ⚠ 企业治理能力不足可能导致Agent失控引发业务中断
💎

登录并升级 VIP,解锁更多

  • ✓ 完整原文摘要(本页隐藏)
  • ✓ PDF 完整报告下载
  • ✓ 目标价、风险提示等深度信息
  • ✓ 无限制查看(免费仅 3 份/天)
← 返回列表