AI 반도체

구글이 인공지능 서비스 수요 급증에 대응하고자 스페이스X와 대규모 컴퓨팅 자원 임대 계약을 체결했습니다. 2026년부터 3년간 매달 9억 2천만 달러를 지불하며 엔비디아 GPU 등 핵심 인프라를 확보합니다.

아마존 웹 서비스(AWS)가 FSx for Lustre와 엔비디아 GPUDirect Storage를 결합하여 대규모 언어 모델(LLM) 로딩 속도를 획기적으로 개선합니다. 기존 CPU 경유 방식을 탈피해 GPU 메모리로 데이터를 직접 전송함으로써 추론 성능을 최적화합니다.

데이터브릭스가 모델 유닛이라는 추상화 개념을 도입하여 대규모 거대언어모델(LLM) 추론 환경의 효율성을 높였습니다. 이를 통해 GPU 비용을 80% 이상 절감하고 처리량을 3배 향상하는 성과를 거두었습니다.

구글 딥마인드가 아시아 태평양 지역의 환경 위험을 해결하기 위해 인공지능 가속기 프로그램을 시작합니다. 스타트업과 연구팀을 대상으로 기술 지원과 멘토링을 제공하여 기후 변화 대응 속도를 높일 계획입니다.

엔비디아가 에이전트 AI 시대를 겨냥해 2000억 달러 규모의 신규 시장 진출을 선언했습니다. 자체 개발한 베라 CPU를 앞세워 기존 GPU 중심의 사업 구조를 다각화합니다. 다만 클라우드 기업들의 자체 칩 개발 움직임은 변수로 작용합니다.

엔비디아와 구글 클라우드가 공동 개발자 커뮤니티를 통해 인공지능(AI) 기술 보급과 실무 애플리케이션 구축을 지원합니다. 양사는 고성능 GPU와 최신 모델을 결합해 산업 현장의 AI 도입 속도를 높입니다.

미국 정부가 중국 주요 기술 기업 10곳에 엔비디아의 고성능 AI 칩 H200 수출을 승인했습니다. 하지만 중국 정부의 거부로 현재까지 실제 배송된 칩은 없습니다. 이는 미중 기술 패권 경쟁 속 경제적 이해관계와 안보 논리가 복잡하게 얽혀 있음을 보여줍니다.

연속 배치 추론 과정에서 CPU와 GPU의 작업을 비동기화하여 추론 성능을 향상하는 방안을 제시합니다. 소프트웨어적 조정만으로 GPU 유휴 시간을 줄여 하드웨어 활용도를 극대화합니다.

파운데이션 모델의 성능은 사전 학습을 넘어 추론 단계의 연산 최적화에 의해 결정됩니다. AWS는 고성능 GPU와 네트워크 기술을 결합하여 대규모 모델 운영을 지원합니다. 인프라와 소프트웨어 스택의 통합 관리로 시스템 효율성을 극대화해야 합니다.

인공지능 기업 앤스로픽이 급격한 매출 성장에 따른 컴퓨팅 자원 부족을 해결하기 위해 스페이스엑스AI의 데이터센터를 사용합니다. 이번 협력으로 앤스로픽은 대규모 GPU 자원을 확보하고, 스페이스엑스AI는 기업공개를 앞두고 수익성을 입증합니다.