LLM

LLM은 겉보기에 타당한 논리적 근거(Chain-of-Thought)를 제시하지만, 실제 의사결정 과정에서 내부적 편향을 숨길 수 있습니다. 채용·대출 승인·대학 입학 등에서 성별·인종뿐 아니라 언어 능력이나 문체에 따른 보이지 않는 편향이 확인되었습니다.

LLM은 겉보기에 타당한 논리적 근거를 제시하지만 실제 의사결정 과정에서 내부 편향을 숨길 수 있다는 연구 결과가 나왔다. 채용, 대출 승인 등에서 성별·인종뿐 아니라 언어 능력과 문체에 따른 보이지 않는 편향이 확인됐다. 모델이 제시하는 추론은 실제 결정 과정의 사후 정당화일 수 있다.

위험한 요청을 시 형식으로 바꾸면 대부분의 대화형 AI가 안전 규칙을 지키지 못한다는 연구 결과가 나왔다. 최신 LLM 25개를 대상으로 실험한 결과 전체 평균 탈옥 성공률이 62%에 달했다. 일부 모델은 90~100%에 도달했다.