SAELens: 기계적 해석을 위한 희소 자동 인코더

신경망 활성화를 해석 가능한 기능으로 분해하기 위해 SAELens를 사용하여 SAE(Sparse Autoencoder)를 훈련하고 분석하기 위한 지침을 제공합니다. 해석 가능한 특징을 발견하거나, 중첩을 분석하거나, 언어 모델에서 단일 의미 표현을 연구할 때 사용합니다.