사이버보안

인공지능 기업 앤스로픽이 자사 최신 인공지능 모델인 클로드 미토스 5를 탑재한 사이버 보안 도구를 기업 고객에게 공개했습니다. 해당 도구는 소프트웨어 취약점을 분석하고 수정 방안을 제시하며 주요 인프라 보호를 위해 제한적으로 운영됩니다.

오픈AI는 인공지능 모델의 사이버 보안 위험에 대응하기 위해 모델 개발 속도를 늦추고 있습니다. 회사는 강화 학습을 중단하고 보안 체계를 강화하는 조치를 시행했습니다. 정부 산하 기관의 보고서는 이러한 기술적 위험이 실제 존재함을 뒷받침합니다.

인공지능 기술의 발전이 사이버 보안 환경을 바꾸고 있으며, 방어 체계의 혁신이 필수적이다. 기업은 인공지능 기반의 위협 탐지 시스템과 함께 엄격한 보안 검증 절차를 도입해야 한다.

거대언어모델의 암호화된 사고 과정 블록을 재사용하여 추론 내용을 복구하는 취약점이 발견되었습니다. 연구진은 하위 모델을 탈옥시켜 숨겨진 추론을 평문으로 확인했습니다. 해당 취약점은 현재 제공업체의 조치로 수정되었습니다.

오픈에이아이와 아마존 웹 서비스가 협력하여 사이버 보안에 특화된 데이브레이크 모델을 아마존 베드록 플랫폼에 출시했습니다. 이번 출시는 기업이 별도의 인프라 구축 없이 생성형 인공지능을 활용해 보안 위협에 대응할 수 있도록 지원합니다. 양사는 클라우드 보안 시장에서 엔터프라이즈 고객의 기술 도입 비용을 절감하고 운영 효율성을 높입니다.

보안 기업 호라이즌3가 시리즈 E 투자 유치를 통해 기업 가치 20억 달러를 인정받았습니다. 인공지능 기반의 자동화된 보안 테스트 기술을 앞세워 글로벌 시장 점유율을 확대하고 있습니다.

샘 올트먼 오픈AI 최고경영자는 사회적 적응을 위해 인공지능 개발 속도를 관리해야 한다고 강조합니다. 최근 발생한 보안 사고는 기술적 결함보다 관리 부실이 원인으로 지목됩니다. 기업의 장기적 전략과 안전성 확보를 위한 다각적인 접근이 필요합니다.

애플이 인공지능이 생성한 저품질 버그 보고서가 급증함에 따라 외부 연구원의 보고 접수를 제한했습니다. 이로 인해 실제 보안 위협이 제때 처리되지 못하는 사례가 발생하며 버그 바운티 프로그램의 운영 방식에 변화가 필요하다는 지적이 나옵니다.

보안 연구원이 마이크로소프트 코파일럿의 프롬프트 주입 취약점을 활용해 스스로 전파되는 웜을 설계했습니다. 해당 공격은 인공지능이 문서 내 숨겨진 명령어를 처리하는 방식을 악용합니다. 기업의 인공지능 도입 과정에서 보안 검증 절차 강화가 필요합니다.

구글이 인공지능 기술을 도입해 크롬 브라우저의 보안 버그 수정 속도를 대폭 높였습니다. 지난 6월 한 달 동안 수정한 버그 수가 지난 2년간의 기록을 상회하며 보안 체계의 변화를 이끌고 있습니다.