본문 바로가기
카테고리 없음

CXL 메모리 (Feat. AI)

by 김부장-000 2024. 10. 1.
반응형

CXL 메모리

CXL (Compute Express Link) 은 현재 가장 주목 받고 있는 반도체 기술이지만 2019년에 첫 사양 출시가 되었음에도 최근 이슈가 되기 전까지는 잘 알려져 있지 않던 기술입니다. 오늘은 간단하게 CXL에 대해 알아보는 시간을 가지려고 합니다.

CXL 기술

CXL은 간단히 말하자면 고속으로 데이터를 주고받으면서 연산을 수행하는 기술입니다. 예전에는 CPU, GPU와 메모리가 각기 다른 인터페이스를 가지고 있어 서로 연결 시에 효율이 떨어지는 문제점이 있었는데, CXL은 PCIe 통신 규약과 여러 프로토콜을 기반으로 하여 이를 하나로 통합함으로써 시스템 용량과 대역폭을 확장시킬 수 있는 인터페이스 기술입니다. 이를 통해 시스템 연산 속도와 데이터 처리 속도를 높일 수 있습니다.

CXL의 장점

CXL의 최대 장점은 '확장성''공유'입니다.

현재 널리 쓰이고 있는 DDR 기술의 경우 메모리를 CPU 및 GPU와 직접 연결하여 빠른 속도로 연산 처리가 가능하도록 해주지만, 동일한 장치 (예를 들어 같은 마더보드 상에 위치)에서의 연결이 아닌 외부로의 연결을 시도할 경우 쉽게 연결 문제가 발생하며, 특성 상 여러 채널 중 1개 채널만 오류가 발생해도 나머지 모든 채널까지 같이 문제가 생기므로 전체 시스템이 마비되는 상황도 우려됩니다.

반면에 CXL은 PCIe (Peripheral Component Interconnect Express standard) 라는 기술에서 시작되었습니다. PCIe 규격은 PC와 주변 부품을 연결해주기 위한 규격으로 DDR에 비해서는 속도가 조금 떨어지지만 상대적으로 연결에 안정감이 있다는 장점이 있습니다.

이러한 CXL 기술을 사용한 메모리는 여러 호스트 (CPU, GPU, 기타 장치 등)와 PCIe를 통해서 연결이 가능하며, 이는 하나의 메모리가 호스트와 동일한 장치가 아닌 외부에도 설치가 가합니다. 따라서 여러 곳에 흩어져 있는 메모리와 PCIe 규격을 통해 연결될 수 있어 엄청난 확장성을 제공해주며, 이로 인해 CPU 및 GPU 등에 메모리(D램, SSD 등)를 거의 무제한으로 연결시키는 것이 가능하여 AI시대에 폭발적으로 증가하고 있는 데이터 처리에 적합한 기술로 각광을 받고 있습니다.

여기에 CXL 2.0 에서는 메모리 풀링 (Memory Pooling) 기능이 더해지면서 '확장성'과 '공유성'이 획기적으로 높아지게 되었습니다.

메모리 풀링이란 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어서 메모리 풀(Pool)을 만들고, 여러 호스트 (CPU, GPU 등)가 풀(Pool)에 연결된 다른 메모리에 모두 연결할 수 있게 해주어 기존 기술 (DDR 등) 대비 훨씬 더 많은 CPU, GPU를 많은 메모리와 연결이 가능하며, 연결된 각 호스트의 연산 요청에 따라 메모리를 분배하여 사용할 수 있어 동일한 메모리 숫자로도 기존 대비 훨씬 효율적인 작동이 가능하게 만들어줍니다.

[caption id="attachment_148" align="aligncenter" width="300"]

source: CXL Consortium[/caption]

CXL 기술 규격 및 최신 상황

CXL기술 규격은 2019년 처음 1.0 규격이 발표된 후 23년 12월 현재 3.1버전까지 규격이 정해져 있고, 국제 반도체 표준화 기구인 제덱 (JEDEC)의 CXL 기반 메모리 규격을 따르고 있습니다. CXL 3.x 버전은 2.0 대비 각기 다른 호스트 및 메모리 간의 연결을 훨씬 정교하게 강화한 Fabric (직조) management 를 강조하고 있으며, multi-level 스위칭을 통해 메모리 풀링 기능 강화 및 메모리 자원의 효율성을 높이고 있습니다.

이러한 CXL 환경 구현을 위해서는 CPU, GPU와 같은 연산 장치와 PCIe 그리고 IP (설계자산)이 필요하며, 외부 메모리 시스템과의 연결을 위한 '스위치'라는 장치도 필요합니다.

이중 특히 중요한 것이 메모리 풀과 CPU를 연결해주는 '스위치'와 IP 인데, 앞으로 스위치는 다양한 IP를 묶은 칩 형태로 구현될 가능성이 크다고 보고 있습니다. 재미있는 사실은 스위치와 최근 발표된 CXL 3.1 IP에 대한 원천 기술 특허를 한국의 스타트업 '파네시아'라는 업체에서 가지고 있다는 점입니다. 아쉽게도 상장사가 아니고 관련 업체도 많지 않은 상황이라 자세한 정보 파악은 어려운 상황입니다.

[caption id="attachment_147" align="aligncenter" width="300"]

source: CXL Consortium[/caption]

CXL 규격 발전 방향 및 관련 업체 현황

CXL 규격의 발전 방향은 '확장성'과 '공유성'을 지속적으로 확대하여 앞으로의 대세가 될 AI 시대에 필수적인 엄청난 양의 데이터를 이용한 연산과 이에 따른 결과물로 생성되는 데이터의 저장까지 감당해낼 수 있도록 하고 있습니다.

현재 CXL 기술을 더욱 발전시키기 위해 삼성전자, SK하이닉스는 물론 인텔, 엔비디아, AMD 등 세계 유수의 반도체 기업 뿐 아니라 구글, MS, 메타 등 세계적인 IT 관련 기업 중 엄청난 데이터 센터를 보유한 기업들까지 CXL 컨소시엄을 구성하여 CXL 을 연구 개발하고 있습니다.

아직 CXL을 완벽하게 지원하는 CPU나 기타 장치들이 시장에 출시된 것은 아니어서 CXL기술을 100% 활용할 수 있는 단계는 아니므로 본격적인 상용화 단계라고 할 수는 없으나 여러 업체들이 CXL의 개발 및 양산을 가속화 하고 있으며, 최근 삼성전자가 4개의 CXL 관련 상표를 출원하고 시장의 주도권을 잡기 위해 박차를 가하고 있는 상황입니다. 앞으로 삼성전자 및 SK하이닉스 등 국내 반도체 기업들이 현재의 HBM에 이어 CXL의 주도권을 확실히 잡는 날이 오길 기원해봅니다.

 

경제, 금융, 재테크 관련 정보는 김부장 유니버스입니다!

김부장 유니버스

 

반응형