인간 정신 상태 반영한 새로운 인공지능 세계 모델

주장현재의 인공지능 세계 모델은 물리적 객체와 움직임만을 다룹니다. 이러한 접근은 인간의 신념이나 의도 같은 정신적 상태를 누락합니다.

주장인공지능은 인간의 정신적 상태를 파악하지 못해 실제 행동을 정확하게 예측하지 못합니다.

팩트연구진은 정신적 변수를 포함한 정신적 세계 모델링 프레임워크를 개발하여 개발자 플랫폼인 깃허브에 공개했습니다.

팩트해당 모델은 신념, 주의력, 목표, 감정, 사회적 규범을 변수로 활용합니다.

팩트모델은 행동의 정신적 의미를 분석합니다.

팩트멘티스 프레임워크는 별도의 훈련이 필요 없는 모듈형 구조로 이루어져 있습니다.

팩트시스템은 장면을 분석한 뒤 물리적 타당성과 정신적 일관성, 그리고 사회적 적절성이라는 세 가지 기준에 따라 행동을 평가합니다.

팩트이 과정은 기계가 읽을 수 있는 중간 결과를 생성합니다.

팩트개발진은 448개의 결정 장면으로 구성된 멘티-벤치 데이터셋을 구축했습니다. 데이터셋의 78퍼센트는 두 명 이상의 인물이 등장하는 복잡한 상호작용 상황을 담고 있습니다.

팩트실험 결과, 정신적 세계 모델링 프레임워크를 적용한 모델은 에프원 점수 87.9점을 기록했습니다. 이는 직접 답변 방식의 63.3점과 자기 일관성 방식의 77.9점을 웃도는 수치입니다. 인간의 성능은 98.5점으로 측정되었습니다.

교차검증단순히 모델의 답변을 여러 번 샘플링하는 방식으로는 정신적 세계 모델링의 성능을 넘어설 수 없습니다. 성능이 가장 낮은 모델이라도 이 프레임워크를 적용하면 직접 답변 방식을 사용하는 가장 강력한 모델보다 더 정확한 예측을 수행합니다.

팩트정신적 모델링은 대인 관계 장면에서 에프원 점수를 26.4점 끌어올렸습니다. 반면 객체 중심의 장면에서는 14.0점 향상에 머물렀습니다.

교차검증현재 인공지능 성능의 병목 현상은 시뮬레이션 단계에서 나타납니다. 물리적 상태와 정신적 상태가 결합된 변화를 예측하는 과정에서 오류가 자주 발생합니다. 연구진은 중간 단계의 예측 정확도를 높이는 것이 개선의 과제라고 밝힙니다.

주장세계 모델의 정의를 두고 학계와 업계의 의견이 엇갈립니다. 오픈에이아이의 소라 같은 생성형 모델을 세계 모델로 볼 것인지, 실제 세계와 상호작용하는 시스템만 인정할 것인지에 대한 기준이 아직 정해지지 않았습니다.

출처더 디코더(https://the-decoder.com/world-models-that-ignore-human-beliefs-predict-the-wrong-actions-new-research-shows/) 및 아카이브 논문을 교차 검증했습니다.