이미지 생성 효율 10배 높인 GEAR 모델: 알리바바 그룹 등 공동 연구팀 발표

주장알리바바 그룹(Alibaba Group)을 포함한 다국적 공동 연구진이 이미지 생성 인공지능의 학습 효율을 획기적으로 개선하는 GEAR(Guided End-to-End AutoRegression, 유도형 종단간 자기회귀) 기술을 발표했습니다.

팩트기존 시각 생성 모델은 토크나이저(Tokenizer, 데이터를 압축된 토큰으로 변환하는 장치)를 먼저 학습한 뒤 고정하고, 이후 생성기를 학습하는 2단계 방식을 주로 사용합니다.

팩트이 방식은 토크나이저가 생성기의 학습 난이도를 고려하지 않아 정보 손실이 발생한다는 근본적인 문제를 안고 있습니다.

주장연구진은 GEAR를 통해 토크나이저와 자기회귀(AR, 이전 데이터를 바탕으로 다음 데이터를 예측하는 방식) 생성기를 동시에 학습하는 종단간(End-to-End) 구조를 구현했습니다.

팩트GEAR는 코드북(Codebook, 토큰의 사전) 할당 과정에서 이중 읽기 방식을 도입하여 미분 불가능한 문제를 해결했습니다.

팩트구체적으로 하드(Hard) 브랜치는 자기회귀 모델의 다음 토큰 예측을 담당하고, 소프트(Soft) 브랜치는 표현 정렬 손실(Representation-alignment loss)을 통해 토크나이저를 최적화합니다.

팩트이러한 구조 덕분에 생성기는 자신이 학습하기 쉬운 토큰 분포를 토크나이저가 생성하도록 유도할 수 있습니다.

팩트실험 결과, GEAR는 기존 LlamaGen-REPA 모델 대비 이미지넷(ImageNet) gFID(생성 이미지의 품질을 측정하는 지표) 수렴 속도를 최대 10배까지 단축했습니다.

교차검증본 연구는 아카이브(arxiv)에 공개된 선공개 논문으로, 아직 학계의 공식적인 동료 평가(Peer Review) 과정을 거치지 않았습니다.

교차검증해당 모델은 다양한 양자화기(Quantizer)에서 성능을 입증했으나, 대규모 데이터셋에서의 일반화 가능성이나 특정 도메인 편향성에 대한 추가적인 검증이 필요합니다.

팩트GEAR는 VQVAE, LFQ, IBQ 등 다양한 양자화기 환경에서 일관된 성능 향상을 보였으며, 텍스트 기반 이미지 생성 작업에도 적용 가능합니다.

주장이번 연구는 생성 모델의 학습 패러다임을 분리형에서 통합형으로 전환함으로써 이미지 합성 기술의 새로운 이정표를 제시합니다.

출처arxiv의 선공개 논문(https://arxiv.org/abs/2606.32039)을 참고했습니다.