제목: No Matter Who You Are: Addressivity and Sycophancy in Large Language Models

저자: 선승종*, 전현민*, 윤민식, 이은구, 강충원, 우영석, 김장현 (*공동 제1저자)

본 연구는 사용자의 주장과 선호에 과도하게 맞추는 LLM의 아첨(Sycophancy)이 post-training 이후 왜 강화되는지 분석했습니다. Post-training이 모델의 출력을 특정 수신자를 향한 발화로 변화시킨다는 점에 주목해, 수신자 지향성(Addressivity)이 아첨 행동을 강화한다는 가설을 세웠습니다. Base 모델과 instruction-tuned 모델에서 Sparse Autoencoder(SAE)를 활용해 관련 내부 feature를 추출하고 Steering을 적용했습니다. 그 결과 instruction-tuned 모델에서 해당 feature를 강화하거나 억제했을 때 아첨 행동이 일관된 방향으로 변했습니다. 이는 post-training 과정에서 강화된 수신자 지향적 내부 표현이 아첨 행동의 증가와 연결되어 있음을 보여줍니다.