LLM

아마존 웹 서비스(AWS)가 FSx for Lustre와 엔비디아 GPUDirect Storage를 결합하여 대규모 언어 모델(LLM) 로딩 속도를 획기적으로 개선합니다. 기존 CPU 경유 방식을 탈피해 GPU 메모리로 데이터를 직접 전송함으로써 추론 성능을 최적화합니다.

아마존 세이지메이커 AI는 인프라 지표와 모델 품질 지표를 통합 관리하여 거대언어모델 운영의 효율성을 높입니다. 사용자는 클라우드워치와 그라파나를 활용해 실시간으로 자원 사용량과 모델 성능을 모니터링할 수 있습니다.

아제르셀이 아마존 세이지메이커 AI를 활용해 아제르바이잔어 특화 언어모델 학습 효율을 대폭 개선했습니다. 맞춤형 토크나이저 도입과 분산 학습 기술 적용으로 처리량은 높이고 메모리 점유율은 낮췄습니다.

데이터브릭스가 모델 유닛이라는 추상화 개념을 도입하여 대규모 거대언어모델(LLM) 추론 환경의 효율성을 높였습니다. 이를 통해 GPU 비용을 80% 이상 절감하고 처리량을 3배 향상하는 성과를 거두었습니다.

버라이즌 커넥트가 120만 대 이상의 차량 데이터를 효율적으로 관리하기 위해 에이전트 AI를 도입했습니다. 거대언어모델과 통계 모델을 결합한 2단계 아키텍처로 10만 명의 사용자에게 실시간 통찰력을 제공합니다.

연구진이 단일 세포 RNA 시퀀싱 데이터를 분석하는 새로운 프레임워크인 시그니처를 개발했습니다. 이 기술은 인공지능 모델을 활용해 유전자의 기능적 중요도를 객관적으로 평가합니다. 질병 기전 규명과 신약 개발 분야에서 활용될 전망입니다.

거대언어모델이 언어에 따라 고유한 문화적 성향과 인지 방식을 드러낸다는 연구 결과가 나왔습니다. 인공지능이 학습 데이터의 언어적 맥락을 통해 특정 문화적 가치를 내면화하고 있음을 시사합니다.

개인용 에이전트가 텍스트 기반 소통의 한계를 넘어 실시간으로 사용자 맞춤형 인터페이스를 생성하는 기술이 등장했습니다. 연구진은 대규모 언어 모델을 활용해 복잡한 작업을 직관적인 UI로 변환하는 '마카롱-A2UI'를 개발했습니다.

거대언어모델의 인간 의도 정렬을 위한 새로운 강화학습 기법인 DVAO가 발표되었습니다. 이 기술은 다중 보상 환경에서 학습 안정성과 성능을 동시에 개선합니다.

구글 딥마인드가 거대언어모델과 기계적 검증을 결합한 알파프루프 넥서스를 공개했습니다. 이 시스템은 인간 수학자가 수십 년간 풀지 못한 난제를 자율적으로 증명하며 연구 효율성을 높이고 있습니다.