메타, 십 대 자녀의 AI 자해 상담 부모 알림 서비스 도입

주장메타는 청소년의 안전을 보호하기 위해 인공지능 챗봇과의 대화 내용을 모니터링하고 위험 징후를 부모에게 알리는 정책을 시행합니다. 이는 인공지능 기업이 제품 설계 단계부터 청소년 보호라는 사회적 책임을 강화해야 한다는 흐름을 반영합니다.

팩트메타는 십 대 사용자가 인공지능 챗봇과 자살이나 자해에 대해 대화할 경우 부모에게 즉시 알림을 발송합니다. 긴급한 위험이 감지될 경우 응급 서비스에 직접 연락하는 시스템도 구축했습니다.

교차검증메타는 인공지능이 감지한 모든 대화 내용을 사람이 직접 검토한 후 알림을 보냅니다. 의도가 모호한 경우에도 안전을 위해 부모에게 알리는 방식을 택하고 있어 과잉 대응에 대한 우려가 존재합니다.

팩트해당 알림 기능은 현재 미국, 영국, 호주, 캐나다의 인스타그램 부모 감독 도구를 통해 제공됩니다. 메타는 올해 말까지 이 기능을 전 세계로 확대 적용할 계획입니다.

팩트이번 조치는 기존에 메타가 인스타그램에서 자살 관련 검색어를 반복적으로 입력하는 청소년의 부모에게 알림을 보내던 정책을 확장한 결과입니다. 부모는 자녀의 지난 일주일간 인공지능 대화 주제를 확인할 수 있습니다.

주장메타의 제한적 콘텐츠 설정은 이제 메타 인공지능에도 동일하게 적용되어 청소년 보호 범위를 넓혔습니다. 챗봇이 부적절한 프롬프트에 응답하지 않도록 차단하여 청소년에게 더 안전한 디지털 환경을 제공합니다.

팩트메타 인공지능은 성적인 대화, 로맨틱한 대화, 알코올 관련 논의를 피하도록 훈련받았습니다. 제한적 콘텐츠 설정이 활성화되면 챗봇은 더 광범위한 주제에 대해 응답을 거부합니다.

팩트메타는 십 대뿐만 아니라 성인 사용자의 대화에서도 자살 위험이 감지되면 응급 서비스에 연락합니다. 이는 페이스북이나 인스타그램 게시물에 적용되던 기존의 안전 조치를 인공지능 챗봇 대화 영역까지 확대한 것입니다.

교차검증인공지능 기술이 발전함에 따라 규제 당국과 학부모는 기업의 책임론을 강하게 제기합니다. 메타의 이번 조치는 외부의 압박과 법적 책임 문제에 대응하기 위한 전략적 선택으로 풀이됩니다.

주장인공지능의 영향력이 커지면서 플랫폼 기업의 선제적인 안전망 구축은 필수적인 과제가 되었습니다. 메타의 이번 정책은 기술적 편의성보다 사용자 안전을 우선시하는 기업 기조를 보여줍니다.

팩트메타는 인공지능의 안전성을 높이기 위해 지속적인 알고리즘 개선을 진행합니다. 향후 더 정교한 위험 탐지 기술을 도입하여 청소년 보호를 강화할 방침입니다.

출처테크크런치의 2026년 7월 16일 보도를 통해 해당 내용을 교차 검증했습니다. 추가 정보는 메타 공식 블로그에서 확인할 수 있습니다.