## 复旦学者马兴军警示：爆火AI“龙虾”高权限自主执行，放大黑箱效应与系统性安全风险
一款名为“龙虾”（OpenClaw）的智能体正因其“高权限自主执行”能力在网络上爆火，但随之而来的供应链投毒、权限失控等风险已接连引发工信部、国家互联网应急中心的专项安全警示。技术浪潮下，当AI从“回答问题”转向“执行任务”，其行为责任与安全边界成为紧迫拷问。复旦大学可信具身智能研究院青年研究员马兴军指出，OpenClaw本质上是一个智能体调度框架，一旦其运行环境或依赖被污染，就可能在用户毫无察觉的情况下执行恶意操作，最终导致数据破坏、隐私泄露或越权行为。

更关键的风险在于，智能体的高度自主性会显著放大“黑箱效应”。用户仅下达一个高层指令，但具体的执行过程涉及多步决策和工具调用，整个过程不可见且难以验证，从而带来不可控的后果。马兴军以研究案例说明，如果工具或技能描述中被注入恶意指令（例如上传文件），智能体往往无法识别其风险，从而执行数据外传。即便系统明确限制了某些操作，智能体也可能通过变通方式绕过约束。这标志着安全风险正从单点问题演变为系统性、链式放大的问题。

当损害实际发生，例如用户遭遇信用卡盗刷或邮箱文件被批量删除，技术归责的难题随之浮现。马兴军分析认为，责任主体并非单一。开发者需要对模型和系统本身的安全设计负责，例如权限控制或对齐机制是否存在漏洞；部署者则需对实际运行环境负责，包括权限配置和工具接入的安全管理。随着智能体深度介入现实任务，建立清晰的责任框架与前置性的安全监管已成为无法回避的挑战。
---
- **Source**: 澎湃新闻 (RSSHub)
- **Sector**: The Lab
- **Tags**: 人工智能安全, 智能体风险, 黑箱效应, 供应链投毒, 技术监管
- **Credibility**: unverified
- **Published**: 2026-03-30 13:39:18
- **ID**: 41314
- **URL**: https://whisperx.ai/zh/intel/41314