1. SOCAMM2를 읽는 두 단어: LPDDR5X와 모듈
SOCAMM2라는 이름에는 서로 다른 두 가지가 겹쳐 있습니다. 하나는 안에 들어가는 D램의 종류이고, 다른 하나는 그 D램을 서버에 붙이는 방법입니다. LPDDR5X가 앞의 것이고 SOCAMM2가 뒤의 것입니다. SOCAMM은 Small Outline Compression Attached Memory Module의 머리글자인데, 원래 LPDDR은 보드에 납땜해서 쓰던 메모리였습니다. 그것을 떼었다 붙일 수 있는 모듈로 만든 것이 이 규격의 출발점입니다.
이름이 헷갈리는 데는 표준 쪽 사정이 있습니다. JEDEC은 2025년 10월 이 규격이 개발 막바지라고 알리면서 Small Outline CAMM2라고 불렀고, 2026년 6월에 JESD328(버전 1.00)로 문서를 공개했습니다. JEDEC 문서 설명을 따르면 SOCAMM은 모듈 범주를 가리키는 일반 용어이고, 표준 이름은 SOCAMM2입니다. 이름이 비슷한 CAMM2 공통 표준(JESD318B)은 컴퓨터·노트북 같은 시스템의 메인 메모리용 DDR5·LPDDR5 모듈을 다루는 별개의 문서입니다.
그래서 자료마다 부르는 이름이 조금씩 다릅니다. NVIDIA의 플랫폼 설명은 SOCAMM이라고 쓰고, 메모리 업체의 제품 설명은 SOCAMM2라고 씁니다. 한 가지 더 짚어 두면, 메모리 3사의 SOCAMM2 발표는 2026년 3~4월에 나왔고 JESD328은 그보다 늦은 6월에 공개됐습니다. 각 회사 제품이 공개된 표준 문서의 요건을 그대로 충족하는지는 이 글에서 확인하지 않았습니다. 아래에서는 자료가 쓰는 이름을 살리되 SOCAMM2를 중심으로 설명합니다.
'압축 접속형'은 모듈을 슬롯에 꽂는 대신 압축 커넥터로 눌러 붙이는 방식을 말합니다. SK하이닉스는 이 커넥터 덕에 신호 무결성이 좋아지고 모듈 교체가 쉬워진다고 설명합니다. JEDEC의 2025년 발표도 낮은 높이의 모듈이라는 점을 언급하면서, 플랫폼의 신호 무결성이 허용하면 핀당 최대 9.6Gb/s를 지원할 것이라고 예고했습니다. 어디까지나 회사의 제품 설명과 표준을 만들던 당시의 목표입니다. 특정 서버에서 실제로 어떤 속도로 도는지, 어떤 순서로 체결하는지는 여기서 확인되지 않습니다.
장착 절차 이야기가 나오면 어느 규격의 이야기인지부터 봐야 합니다. JEDEC의 2023년 CAMM2(JESD318) 발표에 '장착 절차(mounting procedures)'라는 말이 나오는데, 그 문맥은 DDR5형과 LPDDR5/5X형을 잘못 끼우지 못하게 만든 차이를 설명하는 대목입니다. 이것을 SOCAMM2(JESD328)의 체결 부품이나 공구, 작업 순서를 확인한 근거로 끌어다 쓸 수는 없습니다. 실제 정비는 서버 제조사의 절차를 따라야 합니다.
교체형이라는 말도 한 겹 벗겨 읽어야 합니다. NVIDIA는 Vera의 SOCAMM 모듈을 '현장 교체 가능(field-replaceable)'이라고 소개합니다. 현장에서 모듈을 바꿀 수 있다는 뜻이지, 전원을 켠 채로 바꿀 수 있다는 뜻까지는 아닙니다. 핫스왑이 되는지는 해당 서버의 정비 문서로 따로 확인해야 합니다.
비교 상대인 RDIMM은 Registered Dual In-line Memory Module입니다. 명령과 주소 신호를 중계하는 레지스터가 달려 있어, 서버에서 용량을 키우면서도 신호를 안정적으로 유지하는 데 쓰입니다. JEDEC의 DDR5 RDIMM 공통 표준(JESD305B.01)은 이를 288핀(288-position) 모듈로 정의합니다. JESD305B.01 이렇게 놓고 보면 SOCAMM2와 DDR5 RDIMM의 관계는 새 D램 대 낡은 D램이 아니라, CPU 메모리를 어떤 소자와 어떤 모듈 구조로 꾸리느냐의 선택에 가깝습니다.
관련 근거: [1] 삼성전자 — SOCAMM2 제품 설명 (2026-09-14 열람)[6] JEDEC — SOCAMM2 표준 개발 발표 (2025-10-20)[4] JEDEC — JESD328 SOCAMM2 표준 문서 페이지 (Version 1.00, Jun 2026)[7] JEDEC — JESD318B CAMM2 표준 문서 페이지 (Version 1.14, Nov 2025)[8] SK하이닉스 — 192GB SOCAMM2 양산 발표 (2026-04-20)[9] JEDEC — CAMM2(JESD318) 표준 발표 (2023-12-05)[2] NVIDIA — Vera CPU 제품 설명 (2026-09-14 열람)[5] JEDEC — JESD305B.01 DDR5 RDIMM 표준 문서 페이지 (Version 3.00, Apr 2026)[10] 마이크론 — DDR5 RDIMM 제품 설명 (2026-09-14 열람)
2. HBM이 있는데 SOCAMM2가 필요한 이유
AI 서버에서 GPU가 계산하는 동안 CPU도 놀지 않습니다. NVIDIA는 Vera CPU의 역할로 데이터 처리, 작업 조율, KV 캐시 관리를 들고, Rubin GPU에는 HBM4를 붙입니다. HBM은 High Bandwidth Memory의 약자로, D램 다이를 여러 장 쌓고 실리콘 관통 전극인 TSV로 위아래를 연결해 데이터가 오가는 통로를 넓힌 메모리입니다.
그러니 두 메모리를 한 자리를 놓고 다투는 경쟁자로만 보면 그림이 어긋납니다. 이 글이 다루는 Vera Rubin 구성에는 CPU가 쓰는 LPDDR5X와 GPU가 쓰는 HBM4가 각각 있고, 그 사이를 NVLink-C2C가 이어 CPU와 GPU가 일관된 방식으로 메모리에 접근하게 합니다. 다만 소프트웨어가 두 메모리를 함께 쓸 수 있다는 것과, 두 메모리의 물리적 연결이나 접근 성능이 같다는 것은 다른 이야기입니다.
여기서 KV 캐시가 등장합니다. 긴 문맥을 다루는 AI 모델은 앞서 처리한 토큰에서 계산한 키·값 데이터를 보관해 두고 다시 씁니다. 그 보관 장소가 메모리입니다.
마이크론은 이 캐시의 일부를 HBM에서 용량이 큰 LPDDR로 옮겨 두는 구성을 소개합니다. 용량이 늘어난다는 점만 보면 좋아 보이지만, 데이터를 옮기는 비용과 그것을 지원하는 소프트웨어가 따라와야 합니다. 어떤 작업이든 HBM을 줄여도 같은 속도가 난다는 뜻은 아닙니다.
이동 비용을 가늠할 단서로 NVIDIA가 밝힌 숫자 셋을 나란히 두면 이렇습니다. Vera CPU의 LPDDR5X 메모리 대역폭은 CPU 한 개 기준 최대 1.2TB/s, CPU와 GPU를 잇는 NVLink-C2C는 최대 1.8TB/s, Rubin GPU의 HBM4는 GPU 한 개 합산 최대 22TB/s입니다. 단위는 셋 다 TB/s지만 재는 대상이 다릅니다. 하나는 CPU 메모리, 하나는 연결선, 하나는 GPU 메모리 전체입니다. 게다가 1.8TB/s는 NVIDIA가 한 방향인지 양방향 합산인지 밝히지 않은 값이라, 캐시가 어느 한쪽으로 흐르는 속도로 못 박아 읽으면 안 됩니다. 이 숫자들의 비율로 실제 작업 속도 차이를 계산할 수도 없습니다. 분명한 것은 CPU 메모리에 둔 캐시는 GPU 옆 HBM과 다른 길로 오간다는 점이고, 어떤 데이터를 어디에 둘지는 작업의 성격과 소프트웨어가 정할 일로 남습니다.
관련 근거: [2] NVIDIA — Vera CPU 제품 설명 (2026-09-14 열람)[11] 마이크론 — HBM4 제품 설명 (2026-09-14 열람)[3] NVIDIA — Inside the NVIDIA Rubin Platform 기술 문서 (2026-01-05 게시·03-16 갱신)[12] NVIDIA — KV 캐시 재사용 최적화 기술 문서 (2025-01-16)[13] 마이크론 — SOCAMM2 제품 설명 (2026-09-14 열람)
관련 도표 보기
3. SOCAMM2·DDR5 RDIMM·HBM 비교표
아래 표는 Vera Rubin 구성과 일반적인 DDR5 서버 구성에서 세 메모리가 맡는 자리를 나눠 본 것입니다. 모든 CPU·GPU의 메모리 구성을 담은 표도, 세 제품의 성능 순위표도 아닙니다.
표에 대역폭 숫자를 붙이고 싶다면 분모부터 맞춰야 합니다. 모듈 한 개, CPU 한 개, GPU 한 개의 대역폭은 집계 범위가 다른 값입니다. 같은 HBM4를 두고도 마이크론은 스택당 2.8TB/s 초과라고 쓰고, NVIDIA는 Rubin GPU당 합산 최대 22TB/s라고 씁니다. 큰 숫자 하나만 골라 우열을 가리면 메모리 채널 수, 모듈 수, 연결 경로가 계산에서 빠집니다. 용량은 얼마나 담느냐, 대역폭은 초당 얼마나 옮기느냐를 말하는 것이니 이 둘도 따로 봐야 합니다.
관련 근거: [1] 삼성전자 — SOCAMM2 제품 설명 (2026-09-14 열람)[4] JEDEC — JESD328 SOCAMM2 표준 문서 페이지 (Version 1.00, Jun 2026)[10] 마이크론 — DDR5 RDIMM 제품 설명 (2026-09-14 열람)[5] JEDEC — JESD305B.01 DDR5 RDIMM 표준 문서 페이지 (Version 3.00, Apr 2026)[11] 마이크론 — HBM4 제품 설명 (2026-09-14 열람)[3] NVIDIA — Inside the NVIDIA Rubin Platform 기술 문서 (2026-01-05 게시·03-16 갱신)
4. 양산 발표 읽기 — 256GB 샘플과 192GB 양산을 나눠 보는 이유
2026년 상반기 공개 발표를 보면 주요 메모리 업체의 SOCAMM2가 양산 단계에 들어섰다는 내용이 확인됩니다. JEDEC 표준 문서(JESD328)는 이 발표들보다 뒤인 6월에 나왔습니다. 아래는 각 발표 시점에 확인된 내용입니다. 지금 살 수 있는 제품 전부나 고객별 공급 비중을 보여 주는 표는 아닙니다.
마이크론은 3월 3일 256GB 고객 샘플 출하를, 3월 16일에는 192GB 대량생산을 발표했습니다. 두 발표는 용량도 진행 단계도 다릅니다. 삼성전자는 3월 17일 GTC 발표에서 SOCAMM2가 양산 중이라고 설명했는데, 그 발표만으로 모든 용량과 고객의 공급 상태를 알 수는 없습니다. SK하이닉스는 4월 20일 192GB LPDDR5X 기반 SOCAMM2의 양산 개시를 발표했고, 이 역시 회사 발표가 가리키는 제품과 플랫폼 범위 안에서 읽어야 합니다.
이 흐름에서 눈여겨볼 밸류체인은 D램 생산에서 끝나지 않습니다. 메모리 업체가 소자와 모듈을 만들고, CPU와 시스템을 설계하는 쪽이 어떤 메모리를 어떻게 연결할지 정하고, 서버 제조사가 실제 구성과 정비 방법을 구현합니다. 어느 플랫폼이 채택했는지, 호환 제품 검증이 끝났는지, 실제로 출하됐는지까지 확인돼야 사업화가 어디까지 왔는지 판단할 수 있다는 것이 편집팀의 시각입니다. 양산 발표만으로 시장점유율이나 특정 부품사의 수혜를 셈하지는 않습니다.
관련 근거: [14] 마이크론 — 256GB SOCAMM2 고객 샘플 출하 발표·각주 1 (2026-03-03)[15] 마이크론 — HBM4·192GB SOCAMM2 대량생산 발표 (2026-03-16)[16] 삼성전자 — NVIDIA GTC 2026 발표 (2026-03-17)[8] SK하이닉스 — 192GB SOCAMM2 양산 발표 (2026-04-20)
5. ‘전력 3분의 1’이라는 숫자의 각주
마이크론은 2026년 3월 3일 256GB SOCAMM2를 발표하면서 RDIMM 대비 전력 소비가 3분의 1이라고 설명했습니다. 이 숫자를 옮겨 적기 전에 각주 1을 보면, 실제로 비교한 구성은 버스 폭 128비트인 128GB SOCAMM2 한 개와, 버스 폭 64비트인 64GB DDR5 RDIMM 두 개입니다. 용량은 128GB = 64GB × 2개, 표기된 데이터 버스 폭의 합도 128비트 = 64비트 × 2개로 맞춰져 있습니다. 다만 숫자를 이렇게 맞췄다는 것이 같은 전송률·대역폭·작업 조건에서 쟀다는 뜻은 아닙니다. 각주는 두 구성의 전력 비율을 제시할 뿐, 절감분 가운데 메모리 소자·인터페이스·모듈 수가 각각 얼마를 차지하는지는 나누어 밝히지 않습니다. 그래서 어떤 요인 때문에 전력이 줄었다고 단정할 수 없고, 제목에 소개된 256GB 모듈을 직접 잰 값으로 읽을 수도 없습니다.
다음은 분모입니다. 모듈의 전력이 줄어든 비율과 서버 전체 전력이 줄어든 비율은 서로 다른 숫자입니다. 실제 측정이 아닌 계산 예를 하나 들면, 메모리가 서버 전력의 20%를 쓰는 서버에서 그 메모리 전력을 절반으로 줄였다고 해 보겠습니다. 다른 부품의 전력이 그대로라면 서버 전체는 20% × 50% = 10%만큼 줄어듭니다. 메모리 전력이 반으로 줄어도 서버 전력이 반으로 줄지는 않는다는 뜻입니다. 냉각·전력변환·처리량 변화는 이 계산에 넣지 않았습니다.
그래서 전력·성능 발표를 읽을 때는 세 가지만 물으면 됩니다. 어느 용량을 몇 개 비교했는가, 모듈·CPU·서버 중 무엇의 수치인가, 같은 작업량과 설정인가. 제품 이름 옆에 붙은 백분율을 데이터센터 전체의 절감률로 옮겨 쓰지 않는 것이 요점입니다.
관련 근거: [14] 마이크론 — 256GB SOCAMM2 고객 샘플 출하 발표·각주 1 (2026-03-03)
6. 앞으로 볼 것은 최고 용량보다 채택 조건
발표를 읽는 순서를 미리 정해 두면 헷갈리지 않습니다. 편집팀은 세 단계로 봅니다. 먼저 지원 플랫폼입니다. 어떤 CPU와 서버가 어떤 SOCAMM2 구성을 받아 주는지가 정해져야 나머지 비교가 의미를 갖습니다. 다음은 단계입니다. 같은 회사의 발표라도 샘플 출하와 대량생산은 다른 사건이고, 용량마다 단계가 다를 수 있습니다. 마지막이 조건입니다. 처리량·지연시간·전력은 같은 작업량과 설정에서 잰 값끼리만 비교할 수 있고, 유지보수 조건도 여기에 붙여 봅니다. 이 순서를 지키면 비교 조건이 다른 회사의 홍보 수치를 한 줄에 놓고 순위를 매기는 실수를 피할 수 있습니다.
SOCAMM2가 바꾼 것은 서버 메모리를 고를 때 던지는 질문입니다. 용량과 속도 옆에 저전력 소자와 교체형 구조라는 항목이 함께 올라왔습니다. HBM의 적층 경쟁과 CPU 메모리의 구성 변화를 따로 추적하되, 두 흐름이 AI 서버 안에서 어떻게 만나는지 보는 것이 이 글의 결론입니다.
자료 확인 기준: 2026-09-15(최초 조사 9/14, JEDEC 표준 소개·장착 설명·대역폭·전력 각주 9/15 재대조). 기업의 제품 설명·발표와 편집팀의 비교·계산을 구분했습니다. 공개 자료에서 확인하지 못한 고객별 물량·가격·공급 비중은 다루지 않았으며, 실제 도입은 서버 제조사의 지원 목록과 정비 지침을 확인해야 합니다.