Goodfire推出模型内部激活监控器

Goodfire 推出一类监控工具，通过读取 AI 模型运行时的内部激活信号来发现智能体的风险行为，而不是让另一个模型逐字审查其输出。Goodfire 称这种方式成本更低。 该监控器目前面向 Baseten 的客户开放。Baseten 客户可自行选择监控哪些风险，包括攻击性黑客行为、化学与生物武器滥用以及奖励黑客；也可决定自动响应方式：记录事件、转交人工审查，或直接拒绝该请求。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。