AI 안전성연구 프리프린트
MemCut, 에이전트 기억 삭제 뒤에도 남는 간접 단서 평가
원문 읽기 · arxiv.org ↗(새 탭에서 열림)MemCut은 에이전트가 사용자의 잊어 달라는 요청을 처리한 뒤에도 간접 기록에서 정보를 다시 얻을 수 있는지 측정한다.
시험 설계
- 사람이 설계한 민감 사실 456개와 이를 직접 말하지 않지만 함께 추론할 수 있는 대화 단서를 주석으로 연결했다.
- 기존 검색기가 찾는 정보와 남은 기록을 직접 보여줄 때의 정보 복구를 따로 측정해 숨은 위험을 드러낸다.
결과
- 다섯 기억 설계·네 모델에서 직접 발화 삭제는 검색으로 보이는 복구를 크게 낮추지만 살아남은 단서의 복구는 덜 낮췄다.
- 후보 20개 중 10개 턴을 모델이 추가로 삭제해도 잔여 회수는 39~76%였다. 후보 범위를 넓히는 실험은 근거 발견 범위가 병목임을 보여준다.
한계
- 합성 장기 대화와 정해진 단서 구조에서 기존 삭제 구성요소를 비교했다. 실제 이용자 데이터의 분포와 삭제 절차를 대표하지 않는다.
- 기억 속 삭제 대상을 찾는 실험이지 법적 준수 판정이나 모든 추론 공격 방어 시험은 아니다.
함께 확인할 조건
- 통제된 장기 대화와 명시된 근거 연결을 이용했고 실제 사용자의 기억 기록은 시험하지 않았다.
- 텍스트 기억과 기준 삭제법만 다루며 모델 가중치 기억, 멀티모달 정보, 법적 준수 여부를 평가하지 않는다.
이 글의 용어
기사에서 다루는 개념을 검수된 용어집에서 살펴보세요.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.