kt cloud(대표 윤동식, www.ktcloud.com)는 정보통신산업진흥원(NIPA)이 주관하는 ‘2022년 하반기 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업’에서 국내 AI 기업, 연구기관 및 대학교에 ‘HAC(Hyperscale AI Computing)’ 서비스를 제공했다고 20일 밝혔다.

금번 사업은 NIPA가 지난해부터 연간 240억원 규모로 추진한 ‘고성능 컴퓨터 지원사업’의 일환으로, 올 9월부터 12월까지 국내 초거대 AI 활용∙확산을 촉진하고 AI 생태계 활성화를 위해 추진된 총 78억원 규모 사업이다. NIPA는 19일 서울 강남구 코엑스에서 정보통신산업진흥원 및 정부 관계자, kt cloud, KT, 네이버 등의 사업 지원사, AI 챗봇 ‘이루다’ 개발사 스캐터랩 등 사업 참여사 관계자가 참석한 ‘고성능 컴퓨터 지원사업’ 성과 보고회를 성황리에 진행했다.

kt cloud의 HAC는 대규모 GPU 클러스터를 가상화해 AI 연산∙개발 과정에서 필요한 대규모 GPU 자원을 동적으로 할당∙반납하는 독자적인 기술을 바탕으로, 필요할 때 필요한 만큼만 사용하는 종량제 AI 인프라 서비스다. HAC는 대규모 GPU 인프라 자원을 별도의 구축없이 사용할 수 있어 초거대 AI를 연구∙개발하는 대기업은 물론, 독자적으로 대규모 GPU 인프라 구축과 운영이 어려웠던 AI 스타트업과 대학교 및 연구기관에서 보다 쉽게 이용할 수 있다.

HAC는 AI 연구에 필요한 대규모 GPU 자원을 유연하게 확장해 이용할 수 있고, 사용량 기반의 과금 방식으로 ▲비즈니스 민첩성, ▲우수한 경제성, ▲개발환경 맞춤 유연성, ▲인프라 자원 운용 효율성을 제공한다는 것이 강점이다.

AI 연구개발 기업∙기관은 원할 때 필요한 만큼의 대규모 GPU를 바로 빌려 쓸 수 있어 비즈니스 민첩성을 확보할 수 있고, GPU 할당 기준이 아닌, 연산 실행 시 사용된 시간만큼만 요금이 부과되어 경제성이 우수하다. 동일한 수량의 자원을 30~50% 합리적인 가격으로 이용하거나, 동일한 비용으로 약 2배 이상의 기간까지 연구∙개발 할 수 있는 것이다.

개발자는 GPU 수량을 실시간으로 스케일인∙아웃(Scale-in∙out) 할 수 있어 유연한 개발 환경을 보장받을 수 있다. 또한 서비스 내 내장된 컴파일러가 멀티 GPU 분산 및 최적화 기능을 대행해 모델 프로그래밍간 우수한 호환성으로 개발 및 운용의 부담을 줄여 준다.

금번 사업에 지원한 관계 지향형 AI챗봇 ‘이루다’를 개발한 스캐터랩은 성과 보고회에서 HAC 활용 사례를 발표했다. 그 동안 스캐터랩은 ‘이루다’ 서비스를 위해 초거대 AI 모델 개발과 차원 높은 대화 수준 구현하기 위한 컴퓨팅 자원∙비용, 학습 소요 기간에 대한 부담이 있었다. 이번 기회에 HAC를 이용하면서 초현실적 규모의 컴퓨팅 자원을 활용할 수 있었고, 같은 비용으로 훨씬 짧은 시간 안에 학습을 완료해 서비스를 고도화할 수 있었다고 밝혔다.

kt cloud는 대기업, 스타트업, 연구기관 등 다양한 분야에서 HAC를 활용해 AI 연구∙개발을 할 수 있도록 대규모 GPU Farm 구축을 지속 확대할 방침이다. 경제적이고 효율적인 서비스를 통해 AI 비즈니스 다각화에 앞장서며, 향후 AI 반도체를 직접 개발해 인프라, 하드웨어, 소프트웨어의 경쟁력을 모두 갖춘 AI 풀스택 (full-stack) 사업자로 거듭난다는 목표다.