에이전트 인공지능 기반 쿠다 타일 연산의 러스트 변환

주장엔비디아는 큐타일 러스트를 통해 그래픽 처리 장치 커널 개발에 러스트의 소유권 모델을 적용해 안전성을 높입니다. 타일 기반 그래픽 처리 장치 커널에서 가변 출력을 분리하고 호스트 측의 소유권 계약을 유지하여 메모리 안전성을 보장합니다.

팩트엔비디아는 타일짐 저장소에 에이전트 인공지능 기술을 적용하여 공개 타일 연산자 24개를 큐타일 러스트로 전환했습니다. 전환 과정에서 기존 큐타일 파이썬 성능의 평균 99.5퍼센트를 달성했습니다.

팩트변환 파이프라인은 다중 에이전트 워크플로우를 기반으로 작동하며 각 단계마다 기계가 검증 가능한 판정을 내립니다. 참조 타일 중간 표현과 변환된 중간 표현을 비교하는 구조적 동등성 검증을 통해 기능 테스트 이전에 오류를 사전에 차단합니다.

주장큐타일 파이썬은 호출 시점에 암시적으로 커널을 특수화하지만, 큐타일 러스트는 커널 서명에서 명시적인 특수화를 요구합니다. 이러한 구조적 차이는 컴파일 타임에 타입 및 형태 제약 조건을 컴파일러가 명확히 인식하게 하여 안정적인 코드 생성을 돕습니다.

팩트엔비디아 디지엑스 비이백 시스템에서 성능 측정 검증을 수행한 결과, 전환된 연산자 24개 모두 기하평균 속도 향상 임계값인 0.95를 상회했습니다. 전체적인 성능은 기존 파이썬 버전과 거의 동일한 0.995 수준을 기록했습니다.

교차검증전환된 커널은 씨에이비아이 계층을 통해 텐서 기술자를 복사나 할당 없이 전달합니다. 이는 지연 컴파일을 가능하게 하여 개발 주기를 단축시키지만, 러스트의 엄격한 타입 시스템으로 인해 초기 개발 시 명시적 선언이 추가로 필요합니다.

팩트큐타일 파이썬, 트리톤 타일 중간 표현, 큐타일 러스트는 모두 동일한 쿠다 타일 중간 표현을 기반으로 합니다. 공통된 기반 덕분에 재최적화 과정 없이 안전한 호스트 언어로의 재표현이 가능하며, 컴파일러 수준에서 성능 모델을 공유합니다.

주장이번 기술은 단순히 코드를 옮기는 수준을 넘어, 구조적 검증을 통해 성능 회귀를 방지합니다. 텐서 메모리 가속기 로드 비용 힌트나 나눗셈 속성 누락과 같은 미세한 오류까지 중간 표현 비교를 통해 잡아낼 수 있어 신뢰성을 확보했습니다.

팩트큐타일 러스트는 커널 추상 구문 트리를 크레이트에 내장하며, 첫 실행 시 구체적인 상수 제네릭 값을 사용하여 커널을 컴파일합니다. 이후 생성된 바이너리는 캐시되어 재사용되므로 적시 컴파일의 유연성과 정적 컴파일의 안정성을 동시에 제공합니다.

출처엔비디아 기술 블로그(https://developer.nvidia.com/blog/translating-cuda-tile-operations-from-python-to-rust-using-agentic-ai/)의 보도를 교차 검증했습니다.