엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 KT가 엔비디아(NVIDIA) AI로 스마트 스피커와 고객 콜센터를 훈련했다고 22일 밝혔다.

국내 인기 AI 음성비서 기가지니는 매일 800만 명의 사용자와 대화한다.

KT의 AI 기반 스피커는 TV를 제어하고, 실시간 교통 정보를 제공하고 기타 집안에서의 다양한 업무를 수행한다. 대형의 텍스트 데이터 세트를 기반으로 인간 언어를 인식, 이해, 예측 및 생성할 수 있는 머신러닝 알고리즘인 대형 언어 모델(LLM) 덕분에 복잡한 한국어 대화 기술을 숙달했다.

KT의 모델은 엔비디아 DGX 슈퍼(Super) POD 데이터 센터 인프라 플랫폼과 네모 메가트론(NeMo Megatron) 프레임워크를 사용해 수십억 개의 매개변수를 가진 LLM을 훈련하고 배포한다.

한글로 알려진 한국어는 세계에서 가장 어려운 언어 목록에 꾸준히 포함돼 왔다. 한국어에는 네 가지 유형의 복합동사가 존재하며, 한국어 단어는 종종 두 개 이상의 어근으로 구성된다.

2,200만 명이 넘는 가입자를 보유한 KT는 약 400억 개의 매개변수를 가진 LLM을 개발해 스마트 스피커의 단어에 대한 이해도를 높였다. 또한 매개변수 수를 2,000억 개 이상으로 늘린 분야별 최적화된 다양한 버전의 LLM들을 사업에 적용하고 있다. 더불어 기가지니는 아마존 알렉사(Alexa)와의 통합을 통해 사용자와 영어로 대화할 수 있다.

AICC는 AI 음성 에이전트 및 기타 고객 서비스 관련 애플리케이션을 제공하는 올인원 클라우드 기반 플랫폼이다.

AICC는 전화를 받고 요청된 정보를 제공하거나 고객을 상담원과 빠르게 연결해 보다 자세한 문의에 대한 답변을 제공할 수 있다. 류