오픈 시큐어 AI 얼라이언스 출범과 보안 생태계 개방

주장오픈 소스 소프트웨어는 현대 경제의 핵심 기반이며 사이버 보안 분야에서 중요한 역할을 수행합니다. 오픈 시큐어 AI 얼라이언스는 폐쇄적인 시스템을 넘어 누구나 연구하고 배포할 수 있는 개방형 모델과 도구로 방어 능력을 민주화합니다.

팩트엔비디아, 어도비, 시스코, 마이크로소프트, 네이버, 에스케이텔레콤 등 글로벌 기술 기업과 연구 기관이 얼라이언스 창립 파트너로 참여했습니다. 이들은 클라우드 컴퓨팅, 사이버 보안, 엔터프라이즈 소프트웨어 등 다양한 산업 분야를 아우릅니다.

교차검증일각에서는 오픈 모델이 사이버 공격에 악용되거나 안전 장치가 제거될 위험을 제기합니다. 하지만 얼라이언스는 이러한 위험이 폐쇄형 시스템에서도 동일하게 존재하며, 오히려 개방형 시스템이 더 많은 방어자가 시스템을 검증하고 강화할 기회를 제공한다고 반박합니다.

팩트허깅페이스 보안 사고 당시 폐쇄형 인공지능 도구는 공격자와 방어자를 구분하지 못해 분석을 차단했습니다. 당시 허깅페이스는 오픈 웨이트 모델인 지엘엠 5.2를 자체 인프라에서 실행해 1만 7000건 이상의 공격 활동을 분석하고 침입을 차단했습니다.

주장사이버 방어자는 위기 상황에서 즉각 대응하기 위해 스스로 검사하고 적응하는 인공지능 도구가 필요합니다. 특정 기업의 폐쇄형 시스템에만 의존하면 단일 실패 지점이 발생해 국가적, 기업적 보안 취약성이 높아집니다.

팩트엔비디아는 오픈 시큐어 AI 얼라이언스에 오픈 모델과 모델 가중치, 데이터 및 에이전트 하네스 연구를 제공합니다. 또한 새로운 오픈 소스 프로젝트인 엔비디아 랩스 객체 지향 에이전트(NOOA)를 깃허브에 공개해 인공지능 안전성 기능을 강화했습니다.

팩트얼라이언스 참여 기업들은 각자의 기술을 공유하며 협력합니다. 휴렛팩커드는 제로 트러스트 프레임워크인 스피프/스파이어를 제공합니다.

팩트마이크로소프트는 다중 모델 에이전트 스캐닝 하네스인 엠대시를 통해 보안 생태계를 구축합니다.

주장정책 입안자와 규제 당국은 오픈 모델과 보안 도구를 위험 요소가 아닌 방어 자산으로 인식해야 합니다. 오픈형 인공지능 시스템을 일괄적으로 제한하면 방어 능력이 약화되고 소수의 폐쇄형 공급자에게 권력이 집중됩니다.

주장인공지능 에이전트는 단순한 언어 모델을 넘어 모델, 하네스, 가드레일 등으로 구성된 복잡한 시스템입니다. 진정한 인공지능 보안은 모델의 개방 여부를 넘어 식별, 권한, 로그, 평가 등 전체 에이전트 스택의 투명성과 제어 가능성에 달려 있습니다.

주장얼라이언스는 투명한 기술 공유를 통해 보안 표준을 정립합니다. 개방형 협력 체계가 사이버 위협에 대응하는 가장 효율적인 방안입니다.

출처엔비디아 공식 블로그(https://blogs.nvidia.com/blog/open-secure-ai-alliance/)를 교차 검증했습니다.