 |
| 파네시아가 2024 OCP 글로벌 서밋에서 CXL 3.1 스위치를 활용한 AI 클러스터를 세계 최초로 공개했다.(이미지=파네시아) |
팹리스(반도체 설계전문) 스타트업 파네시아가 2024 OCP 글로벌 서밋에서 세계 최초로 CXL(컴퓨트 익스프레스 링크) 3.1 스위치를 활용한 AI 클러스터를 공개한다고 27일 밝혔다.
OCP 글로벌 서밋은 세계 최대 규모의 데이터센터 하드웨어 개발 협의체인 OCP가 주최하는 행사로, 관련된 글로벌 기업들이 대거 참가한다. 이번 서밋에서는 AI 관련 주제가 중점적으로 다뤄진다.
파네시아는 CXL 탑재 AI 클러스터를 활용해 RAG(검색 증강 생성)를 가속하는 데모를 공개한다. RAG는 챗GPT를 개발한 오픈AI나 마이크로소프트(MS)가 앞다퉈 개발 중인 차세대 LLM(대규모 언어 모델)의 한 형태다. 기존 LLM이 가지고 있던 환각현상(거짓 정보를 사실인 것처럼 전달)을 극복한 대표적인 AI 응용 사례다.
CXL 탑재 AI 클러스터는 ‘CXL-메모리 노드’와 ‘CXL-GPU 노드’가 연결된 형태다. 이 중 CXL 메모리 노드에는 CXL 메모리 확장장치가 다수 장착돼 대용량 메모리를 제공한다. CXL-GPU 노드에는 CXL-GPU 장치가 집약적으로 장착돼 AI 연산을 가속화한다.
클러스터에 장착된 다수의 CXL 장치에는 모두 파네시아가 개발한 CXL IP(설계자산)가 내재된다. 이 CXL IP는 장치들 간의 통신 과정을 최적화해, 성능 저하가 없는 메모리 확장을 가능하게 한다.
파네시아는 이 같은 다수의 장치들을 묶기 위해 CXL 3.1 스위치를 활용한다. 이 스위치는 기존 CXL 2.0 스위치와 달리 고확장성 기능을 지원해 여러 노드(서버)간 연결이 가능하다.
파네시아 관계자는 “CXL 3.1 스위치가 포함된 AI 클러스터는 세계 최초로 공개되는 것”이라며 “AI 가속 솔루션인 CXL-GPU가 포함된 시스템 또한 파네시아가 세계 최초로 개발했다”고 강조했다.
CXL 3.1 스위치 칩은 내년 하반기 고객사들에게 공급될 예정이다.
파네시아 관계자는 “메모리 용량을 늘리기 위해서 서버를 추가하다 보면 메모리 외의 부품들을 함께 구매할 수 밖에 없어 기업들의 불필요한 지출이 많아진다”며 “차세대 연결 방식인 CXL을 활용한다면 이야기가 달라진다”고 설명했다.
한편 CXL은 데이터센터 등 시스템에서 사용자의 수요에 맞는 유연한 메모리 확장을 가능하게 한다. 만약 사용자가 메모리 확장을 계획한다면, 오직 메모리와 메모리 확장을 위한 CXL 장치만을 구매할 수 있어 비용을 절약할 수 있다. 빅테크 기업들이 CXL에 관심을 갖는 이유다.
앞서 파네시아는 2022년 USENIX 연례회의에서 세계 최초로 CXL 2.0 스위치를 포함한 풀-시스템 프레임 워크 ‘DirectCXL’을 공개한 바 있다. 이후 2023년 SC(슈퍼컴퓨팅) 전시회에서 CXL 3.0/3.1의 모든 시스템 구성 요소를 포함하는 시스템 또한 최초 공개했다.
전화평 기자 peace201@viva100.com
