■ PIM 기반 AI 가속기 반도체 시스템 개발

■ PIM 기반 AI 가속기 반도체 시스템 개발

 

● PIM, 메모리에 AI 연산 기능 추가한 차세대 반도체

 

한국과학기술원(KAIST)은 프로세싱 인 메모리(Processing In Memory, PIM) 기술을 기반으로 AI 추천시스템 학습 알고리즘 가속에 최적화된 지능형 반도체 시스템 개발에 성공했다. 한국과학기술원(KAIST) 전기 및 전자공학부 유민수 교수 연구팀은 2020년 11월 16일, PIM 기술 기반의 메모리 중심 AI 가속기 반도체 시스템을 개발했다고 밝혔다. AI 추천시스템 알고리즘은 구글, 아마존, 유튜브, 페이스북 등 빅테크 기업들이 콘텐츠 추천 및 개인 맞춤형 광고를 제작하는데 기반이 되는 AI 기술이다. 온라인 광고를 통한 수입은 구글과 페이스북과 같은 실리콘밸리의 빅테크 기업의 주 수익 모델인 만큼 고도화된 추천 AI 기술에 대한 수요는 최근 들어 급상승하는 추세이다.

 

페이스북이 최근 공개한 자료에 따르면, 페이스북 데이터센터에서 처리되는 AI 연산의 70%가 추천 알고리즘을 처리하는 데에 사용되며, AI 알고리즘 학습을 위한 컴퓨팅 자원의 50%를 추천 알고리즘을 학습하는 데 사용하고 있다. 이에 국내 연구진은 메모리 반도체에 AI 연산 기능이 추가된 PIM 기술 기반의 지능형 반도체 시스템을 개발하는 데 성공했다. 프로세서, 메모리, 프로그램의 3가지 요소로 구성된 폰 노이만 구조는 표준적인 컴퓨터 구조이다. 메모리는 프로그램을 저장하고, 프로세서는 저장된 프로그램을 메모리로부터 넘겨받아 처리한다. 그러나, 프로세서는 메모리보다 빠르므로 지연을 피할 수 없는 구조이다.

 

PIM (Processing In Memory) 기술은 CPU와 RAM을 하나의 반도체로 통합하는 기술로, 메모리 중심 설계라 볼 수 있다. 연구팀 관계자는 개발한 시스템이 AI 추천 시스템 알고리즘의 학습 과정을 엔비디아의 GPU를 사용하는 기존 AI 가속 시스템 대비 최대 21배까지 빠르다고 설명했다. 이번 연구 성과는 앞으로 큰 수요 증가와 급성장이 예상되는 세계 AI 반도체 시장에서 메모리 중심으로 설계된 PIM 기술의 상용화와 성공 가능성을 시사한다는 점에서 의미가 크다고 연구진은 밝혔다. 한편, 해당 연구 결과는 2021년 02월, IEEE가 주최하는 국제 고성능 컴퓨팅 구조 심포지엄(HPCA)에서 발표될 예정이다.

 

★ 정부가 추진하는 지능형 반도체 기술 개발 사업은 현재보다 약 25배 빠른 1PFLOPS (페타플롭스, 1페타플롭스는 초당 1,000조번 연산)에 전력 소모는 1,000분의 1 수준인 NPU와 프로세서 구동을 위한 SW(소프트웨어), 대용량 데이터를 고속으로 전송하는 인터페이스 등 원천 기술을 개발하는 것이 목표이다. AI 반도체 연산 속도를 획기적으로 향상시켜 자동차, 드론 등 다양한 영역에서 AI가 더 활발하게 적용되도록 할 계획이다. 아직 시장 지배적인 기술과 기업이 없는 AI 반도체 시장에서 ‘코리아 브랜드’를 확실히 자리매김하겠다는 구상이다.

 

● NPU는 서버용. 모바일. 엣지용 3가지를 함께 개발한다. ★ 서버용 모듈은 SK텔레콤. 퓨리오사AI. 서울대. 오픈엣지 등이 참여해 클라우드 데이터센터용 모듈 개발을 목표로 추진한다. ★ 모바일용 NPU는 텔레칩스. ETRI. 네패스가 주관하여 자율주행차와 드론 시장을 겨냥해 개발한다. ★ 엣지용 반도체는 영상보안, 음향기기 등 IoT 기기에 들어가는 반도체인데, 넥스트칩. ETRI. 오픈엣지. 딥엑스 등이 개발한다. ETRI는 공동 기술로 메모리와 AI 프로세서 통합기술 개발을 추진한다. 프로젝트에 참여하는 기업과 기관은 총 28곳에 달한다. 정부는 이 사업을 통해 2029년까지 세계 최고 수준의 연산성능과 전력효율을 갖는 AI 반도체 NPU 10개를 상용화한다는 계획이다. NPU는 엔비디아와 구글이 앞서가는 가운데, MS. 페이스북. 화웨이. 알리바바 등도 투자를 쏟아붓는 영역으로, 국내 연구현장과 산업계의 기술력을 결합하여 글로벌 경쟁력을 확보하겠다는 전략이다.

 

● 1PFLOPS (페타플롭스) NPU 다음 목표는 PIM 반도체 상용화 확장이다. 연산처리장치 중심의 컴퓨팅 구조를 뇌와 같은 메모리 중심 구조로 바꿈으로써 현재의 메모리. 프로세서 분리 구조가 갖는 단점인 속도. 효율 저하와 전력 소모 증가 문제를 풀겠다는 것이다. 정부는 2020년 288억원 등 향후 10년간 2,475억원을 투입할 계획이며, ’2020년 신규 과제에서는 서버. 모바일. 엣지. 공통 분야 AI 반도체 플랫폼 기술을 확보할 계획이다. 또한, 세계 최고의 메모리 반도체 경쟁력을 활용하여 기억(메모리). 연산(프로세서)을 통합한 신개념 인공지능 반도체(PIM) 개발 사업에 대한 글로벌 리더쉽 기획을 추진할 예정이다.