AI가 집어삼키는 메모리 수요를 감당 못 해, 구글을 비롯한 빅테크들이 퇴역 서버에서 뜯어낸 옛 DDR4 메모리를 새 AI 서버에 재활용하는 지경까지 왔다. 구글의 공급망 인프라 담당 시니어 디렉터 니킬 체리안은 이런 재활용 전략을 써도 여전히 AI 시스템에 넣을 칩이 모자란다고 털어놨다. 그가 보기에 이 극심한 공급 부족을 해결할 진짜 방법은 딱 하나, 메모리 제조사들이 최대한 빨리 생산 능력을 늘리는 것뿐이다.
이젠 낡은 메모리 칩까지 다시 꺼내 쓴다
구글만 이런 궁리를 하는 게 아니다. 수십억 달러를 들여 만든 AI 가속기가 구하기 힘든 메모리 대역폭 하나 때문에 놀고 있는 걸 두고 볼 수 없으니, 여러 업체가 비슷한 해법을 찾아 나섰다. 메타는 올해 초 발표한 자료에서 컴퓨트 익스프레스 링크(CXL)를 활용한 자체 재활용 방식을 공개했다. CXL은 오래된 DDR4와 최신 DDR5를 한 서버 안에서 함께 묶어 쓸 수 있게 해주는 규격이다.
마벨의 제품 마케팅 부사장 쿠람 말릭은 EE타임스와의 인터뷰에서, 서버가 DDR5 전용 플랫폼으로 넘어가면 그대로 폐기됐을 DDR4 모듈을 CXL 컨트롤러로 붙잡아 수명을 늘리는 시도가 대형 클라우드 업체들 사이에서 번지고 있다고 설명했다. 메타는 이 방식으로 일부 추론 작업에서 서버 대수를 최대 25%까지 줄였고, 이 효과가 수백만 대 규모 서버에 걸쳐 나타났다고 밝혔다. 분산 캐시 시스템의 평균 지연시간도 약 29% 줄었다고 한다.
다만 이 방법이 모든 메모리 칩에 통한 건 아니었다. 시중에 파는 CXL 제품들은 컨트롤러와 D램을 한 묶음으로 팔아서, 오히려 이미 쌓아둔 DDR4 재고를 재활용하는 데 걸림돌이 됐다는 게 메타 쪽 설명이다. 게다가 이런 방식으로 늘린 메모리는 대역폭이 서버에 직접 꽂는 D램보다 10배가량 느렸고, 지연시간도 60% 정도 더 나빴다. 메타가 내놓은 답은 자체 개발한 비스타라(Vistara) ASIC이었다. 재사용을 염두에 두고 설계된 이 칩은 전력 효율과 낮은 지연시간을 기본으로 갖췄고, 여기에 작업 부하를 지켜보다가 지연이 감당 안 되는 수준이면 알아서 꺼주는 소프트웨어까지 붙였다.
메모리 값이 그야말로 미쳤다
메모리 칩 값은 AI 인프라 확충이 계속되면서 갈수록 더 가파르게 뛰고 있다. 카운터포인트 리서치에 따르면 2026년 1분기 메모리 가격은 전 분기 대비 80~90%나 올랐다. 마벨은 일반 D램 가격이 한 분기 만에 90~95% 뛰었다고 추산했고, 대형 클라우드 업체들이 2026년 메모리에 쏟아부을 비용 비중이 전체 지출의 약 30%에 이를 것으로 봤다 — 2023~2024년만 해도 8% 수준이었던 걸 감안하면 어마어마한 증가다. 트렌드포스는 2026년 3분기에도 일반 D램 계약가가 13~18% 더 오를 것으로 내다봤다.
당장 풀릴 기미는 안 보인다
공급이 이 수요를 따라잡을 날은 당분간 오지 않을 듯하다. 크립토폴리탄이 앞서 전한 대로, 중국 창신메모리(CXMT)는 월 24만 웨이퍼 수준에서 생산 능력의 한계에 부딪혔다. 미국의 수출 규제에 발이 묶인 데다, 수율도 삼성전자·SK하이닉스보다 42% 낮은 것으로 카운터포인트는 추산한다. SK하이닉스는 신규 팹 두 곳에 약 380억 달러를 투자했지만, 그중 Y2 D램 공장은 2029년 중반이 돼야 클린룸 단계에 들어갈 예정이다.
공급 압박은 더 심해질 수도 있다. 크립토폴리탄 보도에 따르면 대만 마이크론 직원 약 1만 명을 대표하는 노조 두 곳이 성과급 산정 방식을 놓고 9월 파업 투표를 검토 중이다. 마이크론은 전 세계 D램 시장의 약 94%를 장악한 3개 업체 중 하나다. 대만 팹은 단기간에 다른 곳으로 옮길 수 없는 만큼, 파업이 실제로 벌어지면 시장은 더 조여들 수밖에 없다. SK하이닉스 곽노정 대표는 이 공급 부족이 2030년 말까지 이어질 것으로 보고 있다.