⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic News·· 2024-05-24精选AI 评分79

Anthropic 发布 Golden Gate Claude 可解释性研究演示

Golden Gate Claude

AI 导读

Anthropic 发布了一项关于大型语言模型可解释性的研究,展示了如何通过调整 Claude 3 Sonnet 内部特定特征(如金门大桥概念)的激活强度来改变模型行为。研究团队在 claude.ai 上线了为期 24 小时的 Golden Gate Claude 研究演示,表明这种基于内部激活的手术式修改不同于传统的微调或系统提示词工程。

推荐理由

文章展示了通过调整内部特征激活强度来改变模型行为的可解释性方法,并说明了其在安全性评估中的潜在应用。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic News · anthropic.com