인공지능(AI), 머신러닝(ML) 및 사물인터넷(IoT)의 등장으로 데이터 수집단이 네트워크 엣지(Edge)로 이동하고 있다. 이에 제한적인 형태의 기기에서 보다 뛰어난 컴퓨팅 성능을 구현하기 위해 우수한 전력 효율에 대한 중요성이 커지고 있다.

마이크로칩테크놀로지(북아시아 총괄 및 한국대표 한병돈)는 스마트 임베디드 비전 이니셔티브의 일환으로 신규 소프트웨어 개발도구(SDK)는 '벡터블록스 액셀러레이터(VectorBlox Accelerator)'를 추가했다고 19일 밝혔다.

이 SDK는 개발자가 FPGA 툴을 이용한 개발 프로세스를 상세히 알지 못해도 FPGA로 저전력 신경망 애플리케이션을 설계할 수 있도록 돕는다. 마이크로칩의 스마트 임베디드 비전 이니셔티브는 소프트웨어 및 하드웨어 개발자 모두에게 엣지 애플리케이션의 열 제약 및 소형 폼팩터 요건을 충족시키기 위한 툴, IP 및 보드를 제공하고자 작년 7월 시작됐다.

FPGA는 중앙처리장치(CPU)나 그래픽처리장치(GPU)보다 전력 효율성이 높고 초당 기가 연산(giga operations per second)을 더 많이 수행할 수 있어 전력 제약적인 컴퓨팅 환경에서의 추론 기능 등 엣지 AI 애플리케이션에 이상적이다. 하지만 전문적인 하드웨어 설계 기술을 필요로 해 활용도가 떨어졌다.

이번 VectorBlox Accelerator SDK는 FPGA 설계에 대한 사전 경험 없이도 C/C++로 코딩하고 전력 효율적인 신경망을 프로그래밍할 수 있도록 설계됐다.

이 툴킷은 텐서플로(TensorFlow) 및 ONNX(open neural network exchange) 형식으로 모델을 실행해 광범위한 프레임워크 상호운용성을 제공한다. ONNX는 Caffe2, MXNet, PyTorch 및 MATLAB와 같은 여러 프레임워크를 지원한다.

여타 FPGA 솔루션과는 달리 리눅스와 윈도 운영체제(OS)에서 사용 가능하며 소프트웨어 환경에서 하드웨어의 정확성을 검증하는 비트-정확성(bit-accurate) 시뮬레이터도 포함하고 있다. 키트에 포함된 신경망 설계자산(IP)은 런타임 모드에서 서로 다른 네트워크 모델을 불러오는 기능도 제공한다.

폴라파이어 FPGA는 경쟁사 디바이스 대비 최대 50% 낮은 총 전력을 제공하고 25% 더 높은 용량의 매트 블록(math block)을 지원, 최대 1.5TOPS(tera operations per second) 성능을 낼 수 있다. 개발자는 FPGA를 사용해 디바이스 고유의 업그레이드 기능과 단일 칩 통합 기능을 토대로 커스터마이징 및 차별화할 수 있다.

PolarFire FPGA 신경망 IP는 애플리케이션 성능, 전력 및 패키지 크기 트레이드오프(trade-off)에 맞게 다양한 크기로 제공돼 11x11㎜ 의 작은 패키지 크기로도 솔루션을 구현할 수 있다. 다른 솔루션과 비교해 낮은 전력을 제공하므로 인클로저 내 팬을 별도로 구비할 필요가 없다.

브루스 와이어(Bruce Weyer) 마이크로칩의 FPGA 사업부 부사장은 “소프트웨어 개발자가 FPGA의 전력 효율성을 잘 활용하려면 새로운 FPGA 아키텍처와 독점적인 툴 흐름에 관한 전문 지식 없이도 멀티 프레임워크와 멀티 네트워크 솔루션을 포팅할 수 있는 유연성을 제공해야 한다”며 “마이크로칩의 VectorBlox Accelerator SDK 및 신경망 IP 코어는 소프트웨어 및 하드웨어 개발자 모두에게 PolarFire FPGA에서 최고로 유연한 콘볼루션 신경망(convolutional neural network) 아키텍처를 구현하는 방법을 제공, 동급 최고의 폼팩터, 열 및 전력 특성을 지닌 AI기반 엣지 시스템을 더욱 간편하게 구성하고 구현할 수 있다”고 설명했다.