(논문 요약) Connecting the Dots: LLMs can Infer and Verbalize Latent Structure from Disparate Training Data (Paper)

핵심 내용

• 각 document 가 주어진 query 에 미치는 influence 를 계산
  • Taylor approximation 의 second order term 인 것 같으나 원 논문의 notation 들이 무엇을 의미하는지 파악하지 못함…
• Factual knowledge 에 해당하는 query 들은 소수의 document 가 높은 influence 를 보이나, reasoning task 는 그렇지 않음.