稀疏自编码器用于从神经网络激活中发现更清晰的特征表示,是机制可解释性研究的常用方法之一。
Goodfire中文导航:聚焦机制可解释性研究,了解其神经网络内部机制、模型调试、AI安全研究方向、评估流程、…