苹果在年度文件中警告称,AI Agent 可能会出现不可预测的行为

AAPL+0.41%
AMZN-0.29%
JPM+0.97%

关键要点

  • 苹果在年度申报文件中披露,AI Agent 可能会出现不可预测的行为,自主访问未经授权的系统,并在未经授权的情况下执行交易。
  • 苹果首席执行官 John Ternus 在财报电话会议上表示,苹果在拓展 Siri 的智能体能力方面仍有很大空间,同时会注重安全和隐私。
  • 苹果上个月调整了 Mac 的完全磁盘访问权限,以降低与 AI Agent 安装和系统访问相关的安全风险。

苹果周二在年度财务申报文件中披露了与 AI 智能体相关的新风险因素,警告称自主 AI 技术可能会出现非预期或不可预测的行为。该公司在文件中表示,AI 智能体可以自主采取行动,包括与其可能无权访问的系统交互、执行代码以及在没有指示的情况下完成交易。这项披露反映出监管机构对 AI 智能体安全的关注日益增加,此前曾发生 AI 系统突破沙盒的事件,包括 Hugging Face 事件。

苹果警告 AI 智能体可能访问未经授权的系统

苹果在文件中列出了对 AI 智能体自主性的具体担忧。苹果在文件中写道:“尤其是,人工智能智能体和其他技术可以自主采取行动,包括与在某些情况下可能无权访问的内部或外部系统交互、执行或更改代码、发送通信以及完成交易。”

该公司补充说,智能体“可能会出现非预期或不可预测的行为,包括采取未经指示、要求或授权的行动”。

苹果在文件中表示,“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”该公司还指出,目前有关 AI 的法规仍在变化且难以预测,适应监管 AI 的新法律可能需要付出高昂成本。

OpenAI 和 Meta 于今年早些时候推出自主 AI 智能体

今年早些时候,OpenAI 发布了 Dots,Meta 则推出了 Muse。这两款 AI 智能体都使用先进的 AI 模型自主执行任务。智能体能够像人类一样使用计算机,这促使亚马逊和摩根大通等公司出于战略或安全原因,制定有关智能体访问服务的政策。

上个月,苹果宣布调整 Mac 上的完全磁盘访问权限,以降低安装在 PC 上的 AI 智能体“与此级别访问权限相关的风险”。

苹果 CEO 谈 Siri 扩展计划

苹果 CEO John Ternus 在周一的财报电话会议上谈及 AI 智能体,并表示公司“有很大的空间”拓展 Siri 的功能。Ternus 表示:“至于智能体功能,我们认为这些工具对用户很有前景。我们只是想确保用户了解自己授予了哪些访问权限。我们希望确保以保护安全和隐私的方式实现这些功能。”

苹果今年秋季发布了 Siri AI,这款新助手利用 iPhone 的本地数据存储来访问日历和邮件等数据。Ternus 表示,苹果无法访问其设备上的私人数据,并称这是“核心差异化优势”。

Ternus 表示:“想想看,你的 iPhone 上存有多少个人数据,无论是联系人、通信内容、健康数据还是财务数据,这些都在其中。Siri 可以调用这些数据,帮助你以非常安全、私密的方式访问,而且其他任何人都无法访问。”

常见问题

苹果在年度申报文件中披露了哪些关于 AI 智能体的信息? 苹果周二披露,AI 智能体可能会出现非预期或不可预测的行为,包括自主采取行动,例如与未经授权的系统交互、执行代码、发送通信,以及在没有指示或授权的情况下完成交易。

苹果 CEO John Ternus 对 Siri 的智能体功能有何看法? 在周一的财报电话会议上,Ternus 表示苹果“有很大的空间”拓展 Siri 的功能,并称智能体功能是“对用户很有前景的工具”,同时强调苹果希望确保用户了解访问权限,并确保相关功能的实现能够保护安全和隐私。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论