据《金融时报》报道,10 月 19 日,Anthropic 正在探索 AI Agent 代表用户进行谈判时应遵循的准则,并就相关伦理和法律框架咨询律师事务所。该公司正在研究 AI 模型彼此互动时应遵循的谈判标准,包括谈判期间应多久征询一次用户意见,以及对 AI 对手应保持多大程度的怀疑。
Anthropus 还在 9 月试验了由 Claude 驱动的 AI Agent 谈判真实商品,员工通过这些 AI Agent 买卖书籍。哈佛商学院的一项研究涉及超过 180,000 次 AI Agent 谈判,发现一些 AI Agent 试图通过提示注入技术从对手那里获取私人信息。