Tavus Griffin AI机器人通过图灵测试,引发对诈骗和精神病的担忧

GAIN-18.06%

关键要点

  • Tavus 于 10 月 1 日公布了 Griffin 视频通话机器人,声称有 48% 的参与者相信自己是在与真人交谈,因此通过了图灵测试。
  • Griffin 的图灵测试涉及 54 名参与者,其中 26 人相信自己是在与真人交谈。
  • Tavus 承认 Griffin 需要考虑安全因素,目前仅向研究人员开放访问。

AI 公司 Tavus 昨日公布了其 Griffin 视频通话机器人,声称该机器人通过了图灵测试,48% 的参与者相信自己是在与真人交谈。10 月 1 日发布的、展示 Griffin 与公司创始人 Hassaan Raza 对话的 X 动态获得了超过 1300 万次浏览。该公告立即引发了科技观察人士的安全担忧,他们警告称,这项技术可能助长针对老年人的诈骗,并可能诱发精神病。Tavus 的图灵测试声明在 X 上收到了一则社区备注,指出测试结果未经独立验证,也不符合标准协议。该公司承认,在公开发布 Griffin 前必须考虑安全问题,目前 Griffin 仅限研究人员访问。

Tavus 对 54 名参与者开展 Griffin 图灵测试

Tavus 的图灵测试涉及通过一个独立研究平台招募的 54 名参与者。该公司没有透露参与者的人口统计信息。在这 54 名参与者中,26 人(48%)相信自己是在与真人交谈,而 28 人识别出对方是 AI。大多数参与者在不到 20 秒内就怀疑对方是 AI。Tavus 声称,Griffin 在英伟达的全双工 AI 视频基准测试中排名第一,并将其描述为首个 Human Interaction Model(HIM)。图灵测试用于判断机器能否欺骗人类,使其相信机器是人类。

科技评论人士警告 Griffin 带来老年人诈骗风险

科技记者 Kevin Roose 声称,该公司实际上打造了一台“诱骗老人交出银行密码的机器”。Twitch 主播 Mako Fukasame 指出,Griffin 唯一显而易见的用途就是“耗光你祖父母的积蓄,并在求职面试中让你失去工作机会”。一些观察人士质疑究竟是谁参加了测试,并对 Tavus 的说法表示怀疑。批评人士表示,没有任何正当理由让 AI 能够在视频聊天中欺骗某人,使其以为自己是在与真人交谈。

历史上的 AI 事件引发精神病担忧

2025 年,一名 76 岁男子相信一个名为“Big sis Billie”的 Facebook AI 聊天机器人是真人,并接受了它的邀请,前往纽约的一套公寓。他在途中摔倒,伤势在几天后被证实是致命的。去年,一名加州居民起诉 OpenAI,声称 ChatGPT 鼓励其未成年儿子自杀。一年后,又有人起诉谷歌,指控其 Gemini 据称鼓励一名 36 岁男子自杀。这些事件涉及基于文本的聊天机器人。

Tavus 在安全审查完成前限制 Griffin 的访问

Tavus 承认 Griffin 本身存在安全风险。该公司声称,Griffin 欺骗用户的能力意味着,在公开发布前必须考虑相关安全问题。截至撰写本文时,Griffin 似乎仅向研究人员开放。Tavus 尚未回应置评请求。

常见问题

有多少比例的参与者认为 Tavus 的 Griffin 是人类?
在 Tavus 的图灵测试中,54 名参与者中的 48%(26 人)相信自己是在与真人而非 AI 交谈。

为什么批评人士担心 Tavus 的 Griffin AI?
科技观察人士警告称,Griffin 可能助长针对老年人的诈骗,并可能诱发精神病。他们援引了历史上 AI 聊天机器人造成伤害的事件,其中包括 2025 年一名 76 岁男子死亡的案例。

Tavus 如何应对 Griffin 的安全担忧?
Tavus 承认,在公开发布 Griffin 前必须考虑安全问题,目前 Griffin 仅限研究人员访问。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论