[지금은 과학] D램이 인공지능 연산도 한다…신개념 PIM반도체 개발

[아이뉴스24 최상국 기자] 하나의 메모리 셀이 메모리와 프로세서, 데이터 변환기의 기능을 모두 수행할 수 있는 새로운 개념의 PIM(Processing-In-Memory) 반도체가 개발됐다.

유회준 한국과학기술원(KAIST) 교수 연구팀은 하나의 메모리 셀로 메모리, 프로세서, 데이터 변환(Analog to Digital) 기능을 모두 지원할 수 있는 ‘트리플 모드 셀’을 개발했다고 14일 발표했다.

연구팀은 이를 기반으로 DRAM 메모리 셀이 인공지능 연산을 직접 수행하는 PIM 반도체인 ‘다이나플라지아(DynaPlasia)’를 개발했다고 밝혔다.

'트리플 모드'란 메모리의 기본 단위인 '셀'이 상황에 따라 메모리가 될 수도, 프로세서가 될 수도, 디지털-아날로그 변환기가 될 수도 있다는 뜻이다. 하나의 칩에 집적된 수많은 셀들이, 수행해야 할 작업에 따라 동적으로 역할을 바꾸면서 최적화된 하드웨어 구조를 형성할 수 있다.

연구팀이 지은 '다이나플라지아(DynaPlasia)'라는 이름은 Dyna(동적으로, DRAM 기반으로)와 Plasia(목적에 맞춰 구조를 형성)를 합쳐서 만든 말이다. DRAM 기반으로 필요에 맞춰 하드웨어 구조를 형성해 다양한 인공지능 모델을 처리한다는 의미다.

연구팀은 "기존의 PIM 반도체와 달리 우리나라가 경쟁력을 갖고 있는 D램 기반으로 만들었기 때문에 PIM 인공지능 반도체 분야에서도 우리나라가 앞서 나갈 수 있는 기술적 기반의 하나가 될 수 있을 것"으로 기대했다.

김상진 한국과학기술원(KAIST) 연구원(박사과정)이14일 오후 세종특별자치시 세종파이낸스센터 과기정통부 기자실에서 PIM(Processing-In-Memory) 반도체 기술을 시연하고 있다. [사진=과기정통부]

PIM(Processing-In-Memory)이란 하나의 칩 내부에 메모리와 프로세서를 집적한 차세대 반도체로, 메모리와 프로세서가 분리되어 있는 기존 컴퓨팅 구조에서 발생하는 데이터 병목현상과 과다한 전력 소모 문제를 해결할 수 있을 것으로 기대를 모으고 있는 기술이다.

메모리와 프로세서(CPU/GPU/NPU)가 다른 칩에 분리 되어있는 폰-노이만 구조는 메모리 입출력 병목에 의한 속도저하 및 전력소모로 성능과 효율성이 제한된다. 기존에 개발된 디지털 DRAM-PIM은 연산기를 메모리 아래 집적하여 외부 메모리 접근은 줄이지만 연산기의 숫자는 여전히 제한되어 있다. 이번에 개발된 아날로그형 DRAM-PIM “DynaPlasia”는 메모리 셀마다 연산기가 집적되어 메모리 대역폭도 최대화될 뿐 아니라 메모리 셀 수만큼 높은 처리량과 효율성을 보인다. [사진=과기정통부]

현재까지 개발된 PIM 반도체는 대부분 셀 하나에 8개 이상의 트랜지스터가 필요한 SRAM 기반이다. DRAM은 SRAM에 비해 데이터 불안정성이 높아 PIM에 적합하지 않다는 인식 때문이다. DRAM 기반으로 만들어진 것들도 진정한 '프로세싱 in 메모리'가 아니라 '프로세신 near 메모리'라 할 수 있다. 프로세서를 메모리 셀 어레이의 내부가 아니라 외부에 근접 배치하는 방식이다. 이런 방식은 메모리와 프로세서 사이의 거리를 줄이고 대역폭을 넓혀 데이터 병목현상은 줄일 수 있지만 연산성능을 올리기는 어려웠다.

이번에 연구팀이 발표한 ‘다이나플라지아(DynaPlasia)’는 아날로그형 DRAM-PIM 기반 AI 반도체로, 3개의 트랜지스터만으로 셀을 구성했다. 메모리 셀 내부에 프로세서를 집적하고, 에너지 효율이 높은 아날로그 연산 방식을 이용해 집적도와 연산기능을 획기적으로 향상시켰다. 연구팀은 아날로그 회로로 모든 메모리 셀들이 병렬로 동작할 수 있도록 함으로써 기존 디지털 DRAM-PIM 방식에 비해 데이터 처리량을 15배 높일 수 있었다고 밝혔다.

논문 제1저자인 김상진 카이스트 박사과정은 "DRAM-PIM의 한계를 극복하기 위해, 완전히 반대로 생각해 디자인했다. 기존 방식과 달리 DRAM 셀에서는 최대한 간단한 연산만을 정확하게 수행하고 대신 셀을 최대한 작게 만들어 더 많이 집적하는 방식으로 성능을 보상했다. 그 결과 오히려 기존 방식보다 메모리 집적도 높이고 면적당 처리량도 높여 기존 아날로그형 PIM 중에서 가장 많은 용량을 집적할 수 있었다"고 전했다.

이번 연구의 핵심은 '트리플 모드 셀'의 개발이다. 기존의 아날로그형 PIM 반도체에서는 메모리와 프로세서, 그리고 아날로그-디지털 데이터 변환기가 각각 필요했지만 이번에 개발한 '트리플 모드 셀' 기술 덕분에 처리해야 할 인공지능 모델의 종류에 따라 맞춤형으로 최적화된 작업을 수행할 수 있게 됐다. 기존에는 하드웨어 구조가 고정돼 인공지능 모델에 따라 성능이 들쭉날쭉할 수 밖에 없었다.

연구팀은 이같은 '동적 코어 형성 아키텍처'를 통해 기존 아날로그형 PIM 반도체보다 효율성을 2.5배 가량 높일 수 있었다고 설명했다.

트리플-모드 DRAM-PIM 셀. 기존 프로세싱-인-메모리 프로세서들은 집적도가 낮은 SRAM 기반 구현으로 용량에 제한이 있었다. 개발한 DynaPlasia는 셀 하나에 3개의 트랜지스터만을 사용해 높은 집적도와 처리량을 달성하고, 병렬 연산으로 높은 처리량를 달성하였다. 또한 트리플-모드 셀은 목적에 따라 연산기와 메모리 사이에서 동적 리소스 전환으로 더욱 속도를 향상 시킬 수 있다. [사진=과기정통부]

인공지능 모델을 구성하는 여러 레이어는 그 형태에 따라 다른 하드웨어(코어) 구조에서 최적화된 성능을 보인다. 기존 프로세서들은 고정된 코어 구조를 사용하여 다양한 모델을 지원할 때 성능이 제한되어 있었다. 개발한 DynaPlasia 칩은 모델 구조에 맞춰 동적으로 하드웨어 구조를 형성하여 높은 에너지 효율을 보인다. [사진=과기정통부]

유회준 교수는 “이번 연구는 기존 인공지능 반도체가 가지고 있던 메모리 병목현상을 해소할 뿐만 아니라, 높은 처리량과 가변성을 갖는 고메모리 용량의 DRAM-PIM을 개발했다는 점에서 의미가 크다. 본격적인 상용화에 성공할 경우, 최근 더욱 거대해지고 다양해지는 인공지능 모델에서도 높은 성능을 보일 수 있을 것”이라고 연구의 의의를 설명했다.

이번 연구는 과기정통부 ‘PIM인공지능반도체핵심기술개발(설계)’ 사업을 통해 설립된 ‘PIM반도체 설계연구센터(PIM-HUB)’에서 진행됐다. ‘PIM-HUB’는 반도체 대기업과 산·학·연 간 협력을 강화하기 위해 지난해 6월 KAIST에 설립됐다. 삼성전자와 SK하이닉스가 운영위원으로 참여하며 상호 인력파견 및 공동연구 수행, 교육과정 공동개발 등을 추진하고 있다.

유회준 교수는 "이번 ‘다이나플라지아(DynaPlasia)’의 특허는 카이스트가 갖고 있지만 제작은 삼성전자 파운드리를 통해 이뤄졌다. 본격적인 상용화를 위해서는 칩과 외부 회로 간의 인터페이스 설계 등의 추가 개발을 거쳐 D램 공정에서 제작돼야 한다"고 설명했다.