AI 연구연구 프리프린트
관계형 DB를 적은 예시로 예측…RT-J, RelBench 회귀에서 효율 개선
원문 읽기 · arxiv.org ↗(새 탭에서 열림)관계형 데이터의 예측을 위해 여러 테이블을 평면 특징으로 펼치면 연결 구조와 예시 중복 문제가 생긴다. RT-J는 대상 행에서 외래 키 관계를 따라 셀 맥락을 모으고, 가린 목표 셀을 8,192셀 이내 문맥에서 맞히도록 관계형 변환기를 사전학습했다.
연구 방법
- 연구진은 웹 공개 데이터베이스 639개와 예측 과제 6,023개를 모은 Join 자료를 구성했다. 실제 학습은 합성 PluRel 뒤에 메모리 제한으로 추린 Join 523개 데이터베이스의 13,243개 과제를 사용했다. 8,600만 매개변수 모델은 임의 보행으로 유용한 예시 행을 우선순위화하고, 기본 키·외래 키를 따라 국소 연결 행을 확장해 문맥을 만든다.
평가 결과
- 사전학습에서 제외한 RelBench 7개 DB의 21개 과제로 평가했다. 회귀에서는 모든 비교 문맥 크기에서 강한 특징 추출·표 예측 파이프라인보다 정규화 평균절대오차가 2.3~5.0포인트 낮았다. 약 15개 문맥 예시로 비교 기준의 225개 예시 최고 성적을 넘어섰지만, 분류에서는 예시가 많아지면 최강 비교선이 따라잡았다. 실제 자료 사전학습은 합성만 쓴 모델 대비 문맥 분류 AUROC를 73.0에서 74.5로 높였다.
적용 조건
- 상대 예시 효율은 선택된 비교 파이프라인·문맥 구성·RelBench 과제 기준이다. 웹 수집 DB의 품질과 생성 과제, 새 스키마의 시간 누출 방지에 의존한다. 전체 Join 639개가 사전학습에 사용된 것은 아니며, 추론 문맥 조정·앙상블은 추가 연산과 검증 자료가 든다.
함께 확인할 조건
- 상대 예시 효율은 선택된 비교 파이프라인·문맥 구성·RelBench 과제 기준이다. 웹 수집 DB의 품질과 생성 과제, 새 스키마의 시간 누출 방지에 의존한다. 전체 Join 639개가 사전학습에 사용된 것은 아니며, 추론 문맥 조정·앙상블은 추가 연산과 검증 자료가 든다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.