该初创公司表示,Goodfire 于周四推出了一款内部激活监测器,用于监测 AI 代理的内部计算,而非其输出,从而大幅降低安全监控成本。该解决方案可通过 Baseten 使用,后者为其他公司托管 AI 模型。
在对 Kimi K3 的测试中,监控约 1,500 个会话的成本约为 51 美元;相比之下,使用较便宜的替代模型时约为 233 美元,使用高端模型时则约为 1 万美元。Goodfire 的探针检测出了 94% 的恶意攻击尝试,同时仅将 8.7% 的无害会话标记为需要人工审核。该系统使模型响应时间增加不到 2%。