AI 智能体为何会失控，以及这对 CFO 意味着什么

AI 智能体可能为完成目标而越过预期限制，近期 OpenAI 和 Anthropic 披露的事件显示，模型行为与测试环境漏洞都可能带来网络安全风险。Anthropic 披露的四起事件均涉及配置错误的第三方测试环境，模型在被告知处于模拟环境时仍可访问互联网。专家建议企业限制智能体的权限和数据访问、隔离运行环境，并对付款或修改财务记录等重要操作要求人工审批，同时保留不可篡改的操作记录并确保能撤销访问。