AI 연구연구 프리프린트
딥페이크 탐지 AI를 계속 갱신해도 인구집단별 오차는 악화 가능
원문 읽기 · arxiv.org ↗(새 탭에서 열림)새 딥페이크에 맞춰 탐지 모델을 계속 학습하면 전체 정확도를 유지해도 연령·피부색 등 집단 간 오류 격차가 벌어질 수 있다는 분석이다.
연구 방법
- 실제 얼굴·합성 얼굴 자료에서 11개 생성 방식의 공개 시점 순서를 구성하고, 여러 지속학습 방식을 단계별로 학습했다. 연령·성별·피부색과 성별×피부색 교차 집단에 대해 네 가지 공정성 지표를 추적했다.
평가 결과
- DER++·GradMatch는 최종 평균 정확도가 약 88%, SOYO는 약 93%였지만, 첫 생성 방식 자료의 집단별 정확도 차이는 여러 방식에서 커졌다. 피부색 집단의 정확도 격차 지표는 SOYO 0.547, PINA 0.531로 단순 순차학습 0.414보다 나빴다.
적용 조건
- 이 수치는 얼굴 이미지 벤치마크의 구성·인구속성 주석·순서에 의존한다. 하나의 공정성 지표 개선이 다른 지표 개선을 뜻하지 않으며 실제 플랫폼 피해 규모를 측정한 것은 아니다. 비심사 프리프린트다.
함께 확인할 조건
- 이 수치는 얼굴 이미지 벤치마크의 구성·인구속성 주석·순서에 의존한다. 하나의 공정성 지표 개선이 다른 지표 개선을 뜻하지 않으며 실제 플랫폼 피해 규모를 측정한 것은 아니다. 비심사 프리프린트다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.