Anthropic重磅开源！\"电路追踪\"工具解锁AI大脑，揭秘大模型决策全过程

近年来，大语言模型内部决策过程难以捉摸。5月29日，Anthropic发布“电路追踪”工具。该工具生成归因图，展示大模型决策路径，还结合Neuronpedia交互式前端，便于研究者分析。Anthropic开源此工具，被视为AI可解释性领域里程碑，推动AI透明化发展。随着更多人使用优化，AI透明与可控性或提升 。