AI 연구연구 프리프린트
AI의 작업 기억 실수, 목표를 못 찾기보다 찾고도 잘못 읽는 문제
원문 읽기 · arxiv.org ↗(새 탭에서 열림)언어모델은 과거 글자를 입력창에 그대로 볼 수 있는데도 몇 칸 전 글자와 같은지 묻는 N-back 과제에서 사람과 비슷한 유인 오류를 낸다. 연구진은 목표 위치를 못 찾는 문제와 위치를 찾은 뒤 다른 글자에 방해받는 문제를 구별했다.
연구 방법
- Pythia·GPT-2·Qwen2.5 계열 15개 사전학습 모델, 7000만~140억 매개변수, 1~6-back 글자 과제를 시험했다. 중요한 주의 헤드의 위치를 조사하고 모델 활성의 글자 정보를 읽은 뒤, 주의를 날카롭게 하는 개입과 목표가 아닌 글자의 정체성 정보를 지우는 개입을 비교했다.
평가 결과
- N=2에서 인접 위치 유인 글자에 대한 잘못된 일치 판정 중앙값은 79%였고 다른 비일치 글자에서는 4%였다. 실수한 경우에도 목표를 가리키는 주의가 많았다. 방해 글자 정보의 절반을 억제하면 시험한 43개 모델·부하 조합 중 42개에서 민감도 d′가 올라 중앙값 개선은 0.60이었지만 주의를 선명하게 하는 방식은 거의 도움이 되지 않았다.
적용 조건
- 방해 글자 억제는 정답 목표 위치를 알아야 가능한 인과 진단이며 바로 적용할 수 있는 모델 개선법은 아니다. 인공 글자 N-back에서 드러난 현상을 사람의 작업 기억과 동일한 내부 기제로 단정할 수도 없다. 한 층 최소 트랜스포머에서는 오히려 주의 정밀도의 제약이 관찰됐다.
함께 확인할 조건
- 방해 글자 억제는 정답 목표 위치를 알아야 가능한 인과 진단이며 바로 적용할 수 있는 모델 개선법은 아니다. 인공 글자 N-back에서 드러난 현상을 사람의 작업 기억과 동일한 내부 기제로 단정할 수도 없다. 한 층 최소 트랜스포머에서는 오히려 주의 정밀도의 제약이 관찰됐다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.