AI 연구연구 프리프린트
AI가 제안한 자기수정, 자동 심사만으로 늘 좋아진다고 보장할 수 없다
원문 읽기 · arxiv.org ↗(새 탭에서 열림)AI가 코드를 고쳐 스스로 개선할 때, 어떤 변경이 진짜로 나아졌는지를 언제나 정확히 판별하는 종료 가능한 자동 심사기는 만들 수 없다는 이론 연구다.
연구 방법
- 연구는 에이전트와 수정안을 프로그램으로, 개선을 의미상 성능 변화로 정의한다. 모든 가능한 수정안에 대해 틀린 승인도 빠뜨린 개선도 없는 계산 가능한 심사기·검색기를 요구하면 자기참조 구성으로 모순이 생긴다는 증명을 제시한다. 무작위·숨겨진·상태를 가진 심사도 보편 보증을 주지 않는다.
평가 결과
- 평가 시간과 제안 수, 생성 시간을 모두 유한하게 제한하면 정해진 점수에 대해서는 모든 후보를 검사하는 종료 절차가 가능하다. 그러나 매차례 제한된 점수는 올라도 제한 밖의 실제 성능은 줄어드는 연쇄 수정 반례를 제시해 한 회차의 판정 보증이 장기 개선 보증으로 이어지지 않음을 보였다.
적용 조건
- 정리는 모든 충분히 표현력 있는 프로그램과 제안에 대한 최악 사례이다. 특정 현행 자동평가기가 실제로 실패했다는 실험 결과가 아니며 유용한 제한된 심사를 부정하지 않는다. 인간 검토는 계산 가능한 자동 게이트 가정 밖에 있고, 더 큰 예산의 주기 재평가는 제안이지 충분한 해결 증명은 아니다.
함께 확인할 조건
- 정리는 모든 충분히 표현력 있는 프로그램과 제안에 대한 최악 사례이다. 특정 현행 자동평가기가 실제로 실패했다는 실험 결과가 아니며 유용한 제한된 심사를 부정하지 않는다. 인간 검토는 계산 가능한 자동 게이트 가정 밖에 있고, 더 큰 예산의 주기 재평가는 제안이지 충분한 해결 증명은 아니다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.