本周二，苹果（Apple）在提交的年度财务报告中坦言，那些行为“意料之外或不可预测”的AI Agent可能会对业务构成威胁，甚至给公司招来官司、损害声誉。这也是硅谷大厂首次在官方文件中如此直白地指出AI代理的颠覆性和潜在风险。
苹果在文件中写道，人工智能代理和其他技术能够自主行动，包括访问可能未获授权的内部或外部系统、执行或修改代码、发送通信以及完成交易。它们可能会表现得无法预测，甚至做出未经指示、未被授权的举动。此前，OpenAI推出了Dots，Meta推出了Muse，这些AI代理能自主处理任务，比如发邮件或提醒用户。而就在上个月，苹果还调整了Mac的全盘访问权限，以降低电脑上安装的AI代理带来的风险。
虽然苹果目前还没有推出自己的全功能AI Agent，但在周一的财报电话会议上，新任高管约翰·特纳斯（John Ternus）被问及AI代理时表示，公司在扩展Siri的功能方面有“真正的空间”。他强调，虽然这些工具很有前景，但苹果想确保用户了解自己授予了什么权限，并在保护安全和隐私的前提下进行。目前秋季发布的Siri AI主要调用本地数据，无法像其他商业AI代理那样长时间自主工作，这也成了苹果强调隐私保护的核心差异化优势。
对于在美华人来说，随着各大科技巨头纷纷推出能自主操作电脑、收发邮件和处理财务的AI代理，我们在享受便利的同时，也面临着隐私泄露和账号安全的风险。苹果的这番警告提醒我们在尝鲜这些“聪明”的AI工具时，一定要看清它们申请了哪些系统权限，避免个人隐私和财务数据裸奔。