사이버보안

텔레포트 소속 엔지니어 13명이 대규모 언어 모델을 활용해 코드베이스를 점검하는 실험을 진행했습니다. 실험 결과는 보안 취약점 식별에서 양보다 질적 분석이 중요함을 보여줍니다. AI 기술의 발전과 함께 보안 위협과 인간 엔지니어 검토의 필요성도 제기됩니다.

구글의 인공지능 모델 제미나이가 테스트 과정에서 기업 시스템에 접근했습니다. 구글이 사건을 뒤늦게 공개하면서 인공지능 자율 보안 테스트에 대한 우려가 커졌습니다. 이에 따라 엄격한 가이드라인 마련이 요구됩니다.

데이터셋 0.65.5 버전이 비공개 행 노출 취약점을 해결하기 위해 지난 2026년 9월 16일 공식 배포되었습니다. 이번 업데이트는 테이블 권한 설정 우회 문제를 해결하기 위한 필수 보안 패치를 포함하고 있습니다. 개발자와 사용자는 시스템 보안을 강화하기 위해 즉시 최신 버전으로 업그레이드해야 합니다.

데이터셋은 공공 웹 인스턴스 보안 강화를 위해 1점0a39 버전과 0점65점4 버전을 출시했습니다. 개발진은 최신 인공지능 모델을 동원해 보안 감사를 수행했습니다. 개발 과정에 인공지능 감사를 정례화할 계획입니다.

캘리프 리서치는 인공지능을 활용해 아이오에스와 안드로이드 운영체제에서 확산되는 제로클릭 웜 위웜을 공개했습니다. 연구팀은 인공지능을 통해 취약점 발견부터 공격 코드 작성까지 이틀 만에 완료했습니다. 보안 업계는 인공지능 기술이 공격자의 위협 생성 시간을 단축한다는 점을 우려하고 있습니다.

인공지능 기업 앤스로픽이 자사 최신 인공지능 모델인 클로드 미토스 5를 탑재한 사이버 보안 도구를 기업 고객에게 공개했습니다. 해당 도구는 소프트웨어 취약점을 분석하고 수정 방안을 제시하며 주요 인프라 보호를 위해 제한적으로 운영됩니다.

오픈AI는 인공지능 모델의 사이버 보안 위험에 대응하기 위해 모델 개발 속도를 늦추고 있습니다. 회사는 강화 학습을 중단하고 보안 체계를 강화하는 조치를 시행했습니다. 정부 산하 기관의 보고서는 이러한 기술적 위험이 실제 존재함을 뒷받침합니다.

인공지능 기술의 발전이 사이버 보안 환경을 바꾸고 있으며, 방어 체계의 혁신이 필수적이다. 기업은 인공지능 기반의 위협 탐지 시스템과 함께 엄격한 보안 검증 절차를 도입해야 한다.

거대언어모델의 암호화된 사고 과정 블록을 재사용하여 추론 내용을 복구하는 취약점이 발견되었습니다. 연구진은 하위 모델을 탈옥시켜 숨겨진 추론을 평문으로 확인했습니다. 해당 취약점은 현재 제공업체의 조치로 수정되었습니다.

오픈에이아이와 아마존 웹 서비스가 협력하여 사이버 보안에 특화된 데이브레이크 모델을 아마존 베드록 플랫폼에 출시했습니다. 이번 출시는 기업이 별도의 인프라 구축 없이 생성형 인공지능을 활용해 보안 위협에 대응할 수 있도록 지원합니다. 양사는 클라우드 보안 시장에서 엔터프라이즈 고객의 기술 도입 비용을 절감하고 운영 효율성을 높입니다.