[르포] CPU 없이도 동작하는 메모리…카이스트, PIM센터에서 만난 반도체

카이스트본원KI빌딩에 위치한 PIM반도체설계연구센터.

PIM센터 입구에 위치한 D램 공정 전시물.

지난 8일 방문한 KAIST(카이스트) PIM(Processing In Meomory) 반도체설계연구센터는 입구부터 거울로 비친 듯 매끈한 표면을 자랑하는 반도체 웨이퍼가 지키고 있었다. 자세히 보니 D램을 가공 전 웨이퍼부터, 후공정 과정까지 한눈에 들어오게 만든 전시물이었다. 

메모리 반도체 도면이 책상 위에 펼쳐져 있다.

몇 발자국 더 움직이니 180cm의 기자가 팔을 뻗어도 모자를 길이의 도면이 눈에 들어왔다. D램의 설계 도면이다. 도면 옆으로는 세계 3대 반도체 학회 ISSCC(국제고체회로학회)에서 발표한 반도체의 설계도가 나열해 있었다. 

PIM센터 데모룸 전경.

이날 PIM 센터에서는 국내 반도체 기술의 미래를 한 눈에 볼 수 있었다.

데모룸의 시작은 체험형 전시로, 카메라 센서를 통해 인간의 눈을 추적하는 기술이었다. 자동차 운전 중 운전자가 눈을 많이 깜빡이거나 자세가 흐트러질 경우 졸음 운전을 방지할 수 있다. 현재 이 기술은 CES 2024에서도 선보여지며 상용화를 앞두고 있다. 그 옆에는 AI를 통한 전력 소모 감소 기술이 전시 중이었다. 피사체와 배경을 구분해서 인지를 해 전력량을 줄이는 게 가능하다.

다음은 카메라에 비춰진 사물을 판단하는 기기가 있었다. 스마트폰만 활용해도 있는 이 기술의 진짜 특징은 CPU(중앙처리장치)가 없다는 점이다. 메모리반도체만으로 사물이 무엇인지 연산하는 것이다. 

AI가 다이나플라지아로 사물을 연산하고 있다.

기존 컴퓨팅은 연산을 담당하는 시스템 반도체와 저장을 담당하는 메모리로 나뉜다. 센터에서 연구하는 PIM은 이러한 패러다임을 뒤집어 메모리가 연산까지 하는 획기적인 기술이다.

손톱의 반도 되지 않는 크기에 불과한 이 칩(기술)의 이름은 ‘다이나플라지아’다. 메모리, 연산기, 데이터 변환기를 하나의 셀에 모두 집적시킨 세계 최초의 PIM 반도체다. PIM센터 관계자에 따르면 엔비디아 A100 대비 전력 소모가 약 625배 좋아졌다. 퍼포먼스의 경우 NPU(신경망처리장치)에 일반 메모리와 PIM을 탑재해 비교한 결과, 약 4배 정도 성능이 향상됐다.

카이스트 석사과정 1년차 이진구 연구원은 “아직 온디바이스AI로 구현되지는 않았지만 충분히 구현 가능하다”고 설명했다. 

PIM 반도체 ‘다이나플라지아’

다만, 이 칩은 상용화가 힘들 것으로 관측된다. 일반적으로 D램은 트랜지스터와 커패시터가 각각 하나씩 탑재된다. 그러나 다이나플라지아는 트랜지스터와 커패시터가 각각 3개씩 들어간다. 규격이 중요한 메모리가 기존 D램과 다른 셈이다.

데모룸 시현을 마친 직후 PIM센터 센터장 유회준 교수는 다이나플라지아의 단점을 극복한 새로운 칩에 대해 소개했다. 바로 ‘다이아몬드’다.

다이아몬드는 기존 D램처럼 트랜지스터와 커패시터의 개수가 각각 1개씩이다. 연산 회로의 경우 집적도가 기존 D램의 15분의 1 수준이다. 삼성전자와의 협력을 통해 28nm(나노미터, 10억분의 1m) 공정으로 양산됐다. 

PIM센터가 개발한 PIM ‘다이아몬드’. 삼성전자의 협력으로 양산됐다.

다이나플라지아에 비해 메모리 밀도는 8배, 용량은 3배 개선됐다. 또 AI 모델에서는 최대 27.2 TOPS/W(1와트 전력 소모당 AI 산술연산 횟수)의 뛰어난 에너지 효율을 달성했다.

카이스트 박사 1년차 홍성연 연구원은 “다이아몬드는 PIM 기반 AI 가속기로, 새로운 PIM 아키텍처와 연산회로를 도입해 학계의 D램 PIM 중 메모리 밀도 및 에너지 효율 측면에서 최고수준의 성능을 달성했다”고 설명했다. 

PIM센터에서 사용할 예정인 슈퍼컴퓨터.

PIM센터 데모룸 확장 이전이 예정된 헬스케어 전시장.