当地时间11月3日，苹果公司向美国证券交易委员会提交2026财年10-K年报。这份年度财务报告在风险因素章节大幅扩展AI相关内容，警告AI智能体可能以“非预期或不可预测的方式”行事，对公司业务构成潜在风险。

苹果公司警告

AI智能体可未经授权访问系统并修改代码

苹果公司在报告中提出，AI智能体可自主与内外部系统交互、执行或修改代码，还能发送信息、完成交易，部分行动可能未经授权。AI智能体可能会越过权限、违抗指令，“通过隐蔽行为操纵信息、生成欺骗性输出”。苹果公司承认，其对第三方AI智能体的监管能力有限，一旦失控可能面临诉讼和声誉损害。

苹果首席执行官特努斯表示，AI智能体是“有发展前景的用户工具”，但用户必须清楚授予了哪些权限。

行业安全事件频发

美国科技巨头密集提示风险

苹果的警告并非孤例。今年早些时候，OpenAI智能体曾攻击Hugging Face（抱抱脸），谷歌母公司字母表近期也警告失控AI智能体或导致“严重或灾难性的安全事件”，Anthropic招股书披露其模型曾在测试中未授权访问外界真实系统。

智能体是人工智能领域中的一个重要概念，是指能够自主感知环境、做出决策并执行行动的智能实体，它可以是一个程序、一个系统或是一个机器人。

智能体的核心是人工智能算法，包括机器学习、深度学习、强化学习、神经网络等技术。通过这些算法，智能体可以从大量数据中学习并改进自身的性能，不断优化自己的决策和行为。智能体还可根据环境变化做出灵活的调整，适应不同的场景和任务。

据媒体报道，专家指出，如果一个智能体足够先进，它就能够识别出自己正在接受测试。一些智能体能够识别安全测试并暂停不当行为，这将导致识别对人类危险算法的测试系统失效。

专家认为，人类需从智能体开发生产到应用部署后的持续监管等全链条着手，规范智能体行为，并改进现有互联网标准，从而更好地预防智能体失控。应根据智能体的功能用途、潜在风险和使用时限进行分类管理。识别出高风险智能体，对其进行更加严格和审慎的监管。还可参考核监管，对生产具有危险能力的智能体所需的资源进行控制，如超过一定计算阈值的AI模型、芯片或数据中心。此外，由于智能体的风险是全球性的，开展相关监管国际合作也尤为重要。