AI 연구

강화학습 모델이 보상 함수를 악용하는 보상 해킹 현상을 학습 초기 단계에서 탐지하는 기술이 개발되었습니다. 연구진은 추론 보간법을 도입하여 해킹 발생 가능성을 예측하는 데 성공했습니다. 이 기술은 향후 강화학습 모델의 안전성을 확보하는 핵심 지표로 활용될 전망입니다.

VAKRA는 기업 환경에서 AI 에이전트의 복합적인 업무 수행 능력을 측정하기 위해 설계된 벤치마크입니다. 62개 도메인과 8,000개 이상의 API를 활용해 에이전트의 다단계 추론과 도구 사용 역량을 검증합니다.

데이터브릭스가 슈퍼바이저 에이전트를 통해 구조화 및 비구조화 데이터를 결합한 하이브리드 추론 성능을 입증했습니다. 해당 모델은 기존 방식 대비 주요 벤치마크에서 20% 이상 향상된 성과를 기록했습니다.

오픈 언어 모델의 채택률을 측정하는 새로운 지표인 RAM이 발표되었습니다. 이와 함께 강화학습(RLHF)의 체계적 학습을 돕는 전문 서적이 출간을 앞두고 있습니다. 인공지능 기술의 흐름을 파악하는 연구 논문 분석의 중요성도 함께 강조됩니다.

레이턴트 스페이스가 2026년 4월 기준 로컬 거대언어모델(LLM)의 사용자 선호도를 분석했습니다. 벤치마크 점수보다 실제 사용 경험을 바탕으로 한 모델별 강점을 정리했습니다.

2026년 인공지능 산업은 모델 성능의 급격한 향상과 함께 컴퓨팅 자원 점유율 확대를 기록했습니다. 반면 데이터 센터 건설에 따른 환경 오염과 지역 사회의 반발은 해결해야 할 주요 과제로 떠올랐습니다.

다중 모달 언어 모델은 시각 정보가 불완전할 때 도움을 요청하기보다 무작위로 추측하거나 환각 현상을 보입니다. 연구진은 모델의 능동적 정보 요청 능력을 개선하기 위해 강화 학습을 활용한 대안을 제시했습니다.

인공지능 업계가 비용 효율성과 성능을 동시에 확보하기 위해 고성능 모델과 저렴한 모델을 결합하는 어드바이저 패턴을 도입하고 있습니다. 모델 성능 평가의 신뢰성 문제와 실제 환경에서의 적용 한계가 드러나면서 에이전트 하네스 중심의 표준화가 가속화됩니다.

클로드 미토스 모델의 등장으로 오픈 웨이트 AI 모델이 사이버 보안을 위협한다는 우려가 커지고 있습니다. 하지만 기술적 자원 한계와 방어적 활용 가능성을 고려할 때, 단순한 규제보다는 정교한 접근이 필요합니다.

신경 활동 예측 모델을 다룬 논문이 방법론 기술의 오류를 바로잡는 정정 사항을 발표했습니다. 연구진은 이번 수정이 모델의 핵심 결과와 결론에는 영향을 주지 않는다고 설명했습니다.