LLM

현재 거대언어모델은 학습 데이터의 유사성으로 인해 획일적인 답변을 내놓는 집단사고 문제에 직면했습니다. 이를 해결하기 위해 특정 문맥의 다양성을 높이는 새로운 모델이 등장했습니다. 기술적 한계와 실용성 사이의 균형을 살펴봅니다.

연구진은 영상과 언어 데이터를 통합해 세계의 상태 변화를 예측하는 범용 파운데이션 모델 오르카를 공개했습니다. 오르카는 12만 5천 시간의 영상 데이터를 학습해 텍스트 생성, 이미지 예측, 로봇 제어 등 다양한 분야에서 성능을 입증했습니다.

미국 매사추세츠공과대학교(MIT) 연구진이 거대언어모델(LLM)을 활용해 로봇이 인간의 모호한 명령을 스스로 해석하는 기술을 개발했습니다. 이 기술은 적은 데이터로도 로봇의 작업 효율을 높이며 인간과의 협업 능력을 개선합니다.

메타가 인공지능 환경에서 데이터 맥락을 분석해 개인정보를 보호하는 인프라를 구축합니다. 결정론적 규칙과 거대언어모델을 결합해 데이터 분류의 정확도를 높이고 운영 효율을 극대화합니다.

마이크로소프트 연구진이 생성적 인과 검증 프레임워크를 통해 거대언어모델의 내부 원리를 과학적 가설로 변환하는 기술을 개발했습니다. 이 기술은 인간의 뇌가 언어에 반응하는 원리를 구체적으로 설명하고 검증합니다.

연구진은 에이전트 메모리 시스템을 데이터 관리 관점에서 분석하는 새로운 프레임워크를 제시했습니다. 12개 시스템을 11개 데이터셋으로 평가한 결과, 작업 특성에 따른 최적화된 메모리 구조 설계가 필수적임을 확인했습니다.

메타가 거대언어모델을 활용해 콘텐츠 검토 업무의 90퍼센트 이상을 자동화합니다. 이 과정에서 기존 계약직 인력의 대규모 해고가 이루어지고 있으며, 기술적 오류와 책임 소재에 대한 우려도 제기됩니다.

오픈에이아이와 브로드컴이 거대언어모델 추론에 특화된 맞춤형 가속기 잘라페뇨를 공동 발표했습니다. 이번 협력으로 오픈에이아이는 하드웨어 설계 역량을 확보하며 인공지능 모델의 실행 비용 절감과 성능 최적화를 도모합니다.

NVIDIA NeMo AutoModel이 허깅페이스 트랜스포머 v5와 결합하여 대규모 언어 모델의 학습 효율을 높입니다. 기존 API 환경을 유지하면서도 학습 처리량을 최대 3.7배 향상하고 메모리 사용량을 32% 절감합니다.

오픈에이아이와 브로드컴이 거대언어모델 추론에 최적화된 맞춤형 인공지능 칩 할라피뇨를 공동 개발했습니다. 이번 협력으로 인공지능 인프라의 연산 효율을 높이고 하드웨어 독립성을 강화할 계획입니다.