엔비디아의 A100 텐서(Tensor) 코어 그래픽처리장치(GPU)가 출시 한 달 만에 구글 컴퓨트 엔진(Google Compute Engine)에 탑재됐다./엔비디아

엔비디아는 자사의 A100 텐서(Tensor) 코어 그래픽처리장치(GPU)가 출시 한 달 만에 구글 컴퓨트 엔진(Google Compute Engine)에 탑재됐다고 8일 밝혔다. 지금까지 출시된 엔비디아 GPU 중 가장 빠르게 클라우드에 채택됐다.

구글은 최근 A100이 탑재된 엑셀레이터-옵티마이즈드 가상머신(Accelerator-Optimized VM)(A2) 인스턴스를 새롭게 공개했다.

A100은 엔비디아 암페어(NVIDIA Ampere) 아키텍처를 기반으로 구축됐다. 이전 세대보다 훈련 및 추론 컴퓨팅 성능을 20배 향상시켜 인공지능(AI)의 원동력인 워크로드 속도를 획기적으로 개선시킨다.

클라우드 데이터센터에서 A100은 AI 교육 및 추론, 데이터 분석, 과학 컴퓨팅, 유전학, 엣지 비디오 분석, 5G 서비스 등을 포함한 광범위한 컴퓨팅 집약적 애플리케이션을 구동한다. AI 확장과 과학 컴퓨팅에서 추론 애플리케이션 확장, 실시간 대화형 AI 실행에 이르기까지, A100은 클라우드에서 실행되는 복잡하고 예측 불가능한 모든 워크로드를 가속화한다.

곧 배포될 엔비디아 쿠다(CUDA) 11을 통해 개발자들은 텐서 코어, 혼합정밀 모드, 멀티 인스턴스 GPU, 고급 메모리 관리, 표준 C++/포트란(Fortran) 병렬언어 구조를 포함한 엔비디아 A100 GPU의 새로운 성능을 활용할 수 있다.

구글 컴퓨트 엔진은 대규모의 까다로운 워크로드를 위해 고객들에게 16개의 A100 GPU와 함께 a2-메가GPU-16g(a2-megagpu-16g) 인스턴스를 통해 총 GPU 메모리 640GB와 시스템 메모리 1.3TB를 제공한다. 이는 모두 최대 1초당 9.6TB의 대역폭을 갖춘 NV스위치(NVSwitch)로 연결된다.

구글 클라우드는 구글 쿠버네티스 엔진(Google Kubernetes Engine), 클라우드 AI 플랫폼과 기타 구글 클라우드 서비스에 곧 엔비디아 A100를 추가 지원할 계획이다.

마니쉬 사이나니(Manish Sainani) 구글 클라우드(Google Cloud) 제품관리 담당 디렉터는 “구글 클라우드 고객은 AI와 과학 컴퓨팅 워크로드에 대한 혁신을 이끌어줄 하드웨어와 소프트웨어 서비스를 원하고 있다"며 "이번에 새로 출시한 A2 VM 제품군을 통해 엔비디아 A100 GPU를 탑재한 최초의 클라우드 서비스 제공업체가 돼 기쁘다. 앞으로 고객들이 새로운 성능을 어떻게 활용할 지 기대된다”고 전했다.

저작권자 © 파이브에코(FIVE ECOs) 무단전재 및 재배포 금지