LLM

기업은 단순한 llms.txt를 넘어 AI가 정보를 정확히 이해하도록 돕는 정교한 데이터 아키텍처를 구축해야 합니다. 구조화된 데이터는 AI 생성 응답에서 높은 가시성을 확보하는 핵심 요소입니다.

매사추세츠공과대학교(MIT) 연구진이 인공지능 의사결정 시스템의 윤리적 공정성을 평가하는 SEED-SET을 개발했습니다. 이 시스템은 거대언어모델을 활용해 복잡한 상황 속에서 인간의 가치를 정량적으로 측정합니다.

메타가 인스타그램 광고 추천 시스템에 거대언어모델(LLM) 규모의 적응형 랭킹 모델을 도입했습니다. 이 모델은 사용자 맥락에 따라 복잡성을 동적으로 조정하여 광고 성과를 높이고 시스템 효율을 극대화합니다.

거대언어모델은 코딩 등 특정 작업에서 뛰어난 성능을 보이지만 비디오 게임 플레이에는 근본적인 한계를 드러냅니다. 언어 처리 능력과 공간 추론 능력은 별개의 영역이며, 게임마다 다른 규칙과 메커니즘을 범용적으로 학습하기 어렵기 때문입니다.

아마존웹서비스(AWS)가 뉴질랜드 오클랜드 리전에서 생성형 인공지능 서비스인 아마존 베드록을 제공합니다. 현지 기업은 데이터 상주 요건을 충족하며 파운데이션 모델을 활용할 수 있게 되었습니다.

스위스 취리히 연방 공과대학교 연구진이 코딩 에이전트의 작업 성공률에 'AGENTS.md' 등 컨텍스트 파일이 미치는 영향을 분석했습니다. LLM이 생성한 컨텍스트 파일은 모델 성능을 저하하고 추론 비용을 20% 이상 증가시키는 것으로 나타났습니다. 개발자가 직접 작성한 파일도 성능 향상폭이 미미해 사용 시 최소한의 요구사항만 담아야 한다고 했습니다.

미국 서던캘리포니아대학교(USC) 연구진(Zizhao Hu 등)이 거대 언어 모델(LLM)의 페르소나 프롬프팅이 가진 한계를 극복하는 'PRISM' 파이프라인을 제시했습니다. 전문가 페르소나 부여가 모델의 사실적 정확성을 훼손하는 문제를 해결하고, 인간 선호도와 안전성 정렬을 향상하면서도 지식 검색 정확도를 유지한다는 내용입니다.

아마존웹서비스(AWS)가 아티피셜 지니어스와 협력하여 거대언어모델(LLM)의 환각 문제를 해결하는 결정론적 모델을 선보였습니다. 이 기술은 금융과 의료 등 규제가 엄격한 산업 분야에서 인공지능의 신뢰성을 높일 것으로 기대됩니다.

구글 리서치가 Gemini LLM을 활용해 150개국 뉴스 기사를 260만 건의 도시 홍수 데이터로 변환하는 Groundsource 방법론을 공개했습니다. 기존 재난 모니터링 체계가 감지하지 못한 소규모·단기 홍수를 포착하며 24시간 전 도시 홍수 예보를 가능하게 합니다.

LLM은 레이어가 깊어질수록 초반 레이어의 정보가 희석되는 구조적 결함을 안고 있습니다. 중국 AI 스타트업 Moonshot AI의 Kimi 팀이 이 문제를 소프트맥스 어텐션으로 대체하는 일명 어텐션 잔차(Attention Residuals) 기술로 해결했습니다. 코딩, 수학, 추론 등 모든 벤치마크에서 기준선을 상회했습니다.