요즘 AI(인공지능) 산업은 클라우드 산업 초창기 발전 양상을 뒤따르고 있다. 클라우드 산업 초기 모든 인터넷 기업은 ‘클라우드 온리(Cloud Only)' 전략에 집중했다. 그러다 시차를 두고 퍼블릭 클라우드와 로컬 데이터센터를 합친 ‘하이브리드 클라우드'로 전환했다. 

마찬가지로 AI 산업도 LMM(거대언어모델) 구동을 위한 초대형 AI 인프라에 쏠렸던 시선이 개별 엣지 기기에서 AI를 구현하는 ‘온 디바이스 AI’로 분산되는 추세다. 결국에는 초대형 AI 인프라와 엣지 AI가 동시에 존재하는, ‘하이브리드 AI’ 기술이 대세가 될 것으로 본다.

PC용 CPU 최초 NPU 탑재

인텔코리아가 18일 서울 여의도에서 공개한 ‘인텔 코어 울트라'는 이처럼 엣지단으로 초점이 이동하는 AI 성능 요구치를 충족하기 위한 제품이다. 인텔 코어 울트라는 PC용 CPU로는 처음 NPU(신경망처리장치)를 따로 배치해 AI 연산 성능을 대폭 개선했다. 이전 제품까지는 CPU와 GPU(그래픽처리장치)가 워크로드를 처리하는 틈틈이 AI 연산을 부담하는 구조였다. 

인텔 코어 울트라는 대부분의 AI 연산을 NPU에 맡기고, 특별히 빠른 응답을 원하는 워크로드나 부하가 큰 경우에만 CPU⋅GPU가 개입한다. ‘인텔4’ 공정으로 설계된 NPU(인텔4 공정으로 설계)는 저전력 특성이 뛰어나기에 AI 연산량이 늘어나더라도 전력 소모량을 최소화 할 수 있다. 

인텔 코어 울트라처럼 모바일(노트북PC 등)에 특화된 반도체는 이 같은 저전력 특성이 필수다. 결과적으로 생성형AI 성능을 1.7배 강화하는 동시에 전력당 성능비는 2.5배 향상됐다.

나승주 인텔코리아 상무는 “짧은 지연시간, 사생활 보호 등 대형 AI 인프라로는 충족하지 못하는 문제를 엣지 AI 기기에서 수월하게 해결할 수 있다”며 “결국에는 초거대 AI와 엣지 AI가 하이브리드 형태로 발전할 것”이라고 말했다.

기술유출, 사생활 침해도 방지…엣지 AI 노트북PC 출시

초거대 AI 인프라를 이용하기 위해서는 각 디바이스에서 입력한 내용을 네트워크 통해 AI 서버로 전송해야 한다. 이 과정에서 민감한 개인정보나 기업의 기밀을 외부로 유출될 가능성이 높다. 이 때문에 일부 기업들은 사내 인프라를 이용해 챗GPT 등 생성형 AI 서비스 접속을 차단하는 경우가 많다. 

엣지 디바이스에서 NPU를 이용해 AI 성능을 보강할 수 있다면 굳이 외부의 AI 서버를 이용할 필요가 없다. 엣지 AI는 인터넷 접속이 차단된 환경에서도 생성형 AI 결과물을 만들어낸다. 물론 지연시간도 단축된다. 

삼성전자가 지난 15일 선보인 ‘갤럭시북4 시리즈'가 이 같은 엣지 AI 기기를 표방한 노트북PC다. 갤럭시북4에는 인텔 코어 울트라 칩셋이 탑재돼 있다. 삼성전자는 갤럭시북4가 CPU 옆에 NPU를 별도 탑재함으로써 인터넷 연결 없이도 생성형 AI 기능을 활용할 수 있다고 설명했다. LG전자 역시 같은날 인텔 코어 울트라를 탑재한 2024년형 ‘LG그램’을 출시했다. 역시한 NPU 성능을 활용한 AI 기능에 방점이 찍혔다. 

18일 인텔코리아가 개최한 기자간담회에서는 NPU 연산만을 활용한 이미지 생성과 동영상 배경화면 실리간 ‘블러(흐름)’ 처리 기능을 데모하기도 했다. 모두 과거에는 AI 서버 인프라를 활용하거나 디바이스 내 CPU⋅GPU 자원을 할당해야 했던 워크로드였다.

권명숙 인텔코리아 대표는 “AI 기술의 확산이 ‘실리코노믹스(Siliconomics)’를 가속화 하고 있다”며 “인텔 코어 울트라는 과거 ‘인텔 센트리노' 출시를 뛰어 넘는 혁신을 가져올 것”이라고 말했다. 인텔 센트리노는 인텔이 지난 2003년 출시한 노트북PC 전용 저전력 플랫폼이다. 높은 전력 소모량과 발열 탓에 모바일 환경에 부적합했던 ‘펜티엄4’를 대체해 노트북PC 시장을 열어 젖힌 기폭제 역할을 했다.