대규모 언어 모델은 인과관계를 진정으로 이해하는가? 회로 발견과 인과 발견을 통한 레이어 수준 실증 분석

Do Large Language Models Truly Understand Causality? A Ground-up Empirical Analysis via Circuit Discovery and Causal Discovery

본 연구의 최종 목표는 대규모 언어모델(LLM)이 인과관계(causality)를 어느 수준까지 이해하는지를 모델 내부 메커니즘 수준에서 실증적으로 규명하고, 이를 바탕으로 LLM의 인과 관계 이해를 실질적으로 향상시키는 방법론을 제안하는 것이다. 특히, CausalGPT, CausalLM, CLadder, CaLM, CORR2CAUSE 등 인과적 LLM과 ...