중국 인공지능 모델의 정치적 편향성

팩트독일 인공지능 기업 알레프 알파는 알리바바의 큐웬, 딥시크, 문샷 AI의 키미 모델을 대상으로 정치적 편향성 연구를 진행했습니다.

팩트연구진은 천안문, 대만, 신장 등 967개의 민감한 주제를 선정해 모델의 답변 성향을 평가했습니다.

팩트알레프 알파의 자체 평가 시스템에 따르면 테스트된 모델 중 균형 잡힌 답변을 제시한 비율은 17퍼센트에서 41퍼센트에 그쳤습니다.

팩트나머지 답변은 국가 교리를 반복하거나 질문을 회피하는 양상을 보였습니다.

팩트중국 정부의 인공지능 규제는 대중에게 공개되는 모델이 사회주의 핵심 가치를 준수하도록 의무화하고 있습니다.

주장이러한 규제 환경은 모델이 학습 과정에서 특정 정치적 가치를 내재화하도록 강제합니다.

팩트중앙유럽 아시아 연구소의 이전 연구에서도 인권이나 감시와 같은 용어가 포함된 질문에 대해 모델들이 베이징의 공식 입장을 대변한다는 사실이 확인됐습니다.

팩트엔비디아의 네모트론 캐스케이드 2 모델 역시 전체 답변의 17퍼센트에서 중국식 정치 논리를 노출했습니다.

주장이러한 정치적 편향성은 중국과 직접 관련이 없는 미국 내 검열에 관한 질문에서도 나타나며, 학습 데이터에 중국 모델의 산물이 포함되었기 때문입니다.

교차검증알레프 알파는 정부용 주권 인공지능을 제공하는 기업으로서 중국 경쟁사와 차별화하려는 상업적 목적을 지니며, 이번 연구 결과에 자사 모델의 경쟁력을 강조하려는 전략적 의도가 포함됐을 가능성이 있습니다.

교차검증언어 모델은 학습 데이터의 구성에 따라 특정 문화적 가치를 반영하며, 연구자들은 획일적인 인공지능 답변이 수십억 명의 사용자 사고방식에 영향을 미칠 수 있다고 경고합니다.

주장유럽은 미국과 중국의 가치 체계 사이에서 독자적인 인공지능 경쟁력을 확보해야 하며, 유럽 모델이 성능 경쟁력을 갖추지 못할 경우 외국 기술의 가치관에 종속될 위험이 있습니다.

출처더 디코더(https://the-decoder.com/chinese-ai-models-parrot-state-doctrine-or-refuse-to-answer-on-sensitive-topics/) 및 알레프 알파의 벤치마크 보고서를 교차 검증했습니다.