Goodfire推出Silico工具用于LLM可解释性
goodfire发布了silico，一种机械可解释性工具，允许工程师在训练过程中检查和调整模型参数来调试llm。它使用代理自动化工作流程，并已在qwen 3等开源模型中识别出与电车难题相关的神经元。该工具主要适用于开源模型。
旧金山初创公司 Goodfire 发布了 Silico，一种机械可解释性工具，允许研究人员在训练过程中检查和调整模型参数。该平台使用 AI 代理自动映射神经元和通路，使用户能够识别和修改特定行为，例如减少幻觉或改变对伦理困境的反应。虽然首席执行官 Eric Ho 声称该工具将模型开发从“炼金术”转变为“精密工程”，但 Leonard Bereska 等外部专家认为它只是“在炼金术中添加了精度”。Silico 支持 Qwen 3 等开源模型，但无法访问 ChatGPT 等闭源系统。