리커시브, 인공지능이 개발한 언어 모델 플린트 공개

팩트리커시브는 인공지능이 스스로 연구 과정을 설계하고 실행하며 평가하는 자율적 개발 시스템을 구축했습니다. 리처드 소처와 전 딥마인드 연구원 팀 록태셸 등이 설립에 참여한 리커시브는 지난해 5월 46억 5천만 달러의 기업 가치를 인정받으며 6억 5천만 달러의 투자를 유치했습니다.

주장리커시브는 자율적 개발 시스템을 통해 최종적으로 인공지능이 자신의 성능을 스스로 개선하는 초지능을 구축하는 것을 목표로 설정했습니다. 리커시브는 이번 모델 개발로 인공지능이 연구 과정을 자동화할 수 있음을 증명합니다.

팩트리커시브가 개발한 유레카 머신은 모델의 아키텍처 설계와 양자화 방식 및 컴퓨팅 커널 최적화 등 개발 전 과정을 자동화했습니다. 유레카 머신은 출력 레이어를 4비트로 줄이는 양자화 기법을 적용하면서 증류 과정을 거쳐 정확도를 유지합니다.

팩트유레카 머신이 개발한 플린트는 총 400억 개의 파라미터 중 25억 개가 활성화되는 혼합 전문가 모델입니다. 플린트는 맥북 프로 M4 프로 환경에서 초당 125 토큰 이상의 생성 속도를 보입니다.

팩트플린트는 SWE-벤치 프로 v2 등 주요 코딩 벤치마크에서 500억 파라미터 미만의 모델 중 우수한 성적을 기록했습니다. 플린트는 최대 51만2000 토큰의 컨텍스트 윈도우를 지원합니다.

팩트플린트는 아파치 2.0 라이선스로 허깅페이스에 공개되었습니다. 사용자는 라마.cpp와 올라마 및 LM 스튜디오 등 다양한 런타임을 통해 로컬 환경에서 모델을 구동합니다.

교차검증리커시브가 공개한 벤치마크 결과는 아직 독립적인 기관을 통해 검증되지 않았습니다. 플린트는 복잡한 작업 수행 과정에서 대형 독점 코딩 모델보다 더 많은 인간의 지도가 필요합니다.

교차검증전문가들은 인공지능이 연구 아이디어를 제안하고 결과를 판단하는 과정에서 인간의 개입이 필수적이라고 진단합니다. 인공지능이 스스로 지능을 폭발적으로 개선하는 것은 기술적으로 어려운 과제로 평가됩니다.

주장리커시브는 차세대 모델이 유레카 머신 자체를 더 나은 연구자로 발전시키는 선순환 구조를 만든다는 계획입니다.

출처더 디코더(https://the-decoder.com/recursive-shows-first-result-of-its-ai-driven-research-process-with-flint/)의 보도를 교차 검증했습니다.