AMD, AI 컴퓨팅의 새로운 기준을 제시하다: 31,000기가바이트 서버 랙

AMD는 256코어 CPU와 무려 31,000기가바이트의 HBM4 VRAM을 탑재한 대형 헬리오스 서버 랙을 공개하며 소비자용 AI 하드웨어와 기업용 AI 하드웨어 간의 엄청난 격차를 부각시켰습니다.

A
Staff Writer
게시됨 24/07/2026 10:30
AMD, AI 컴퓨팅의 새로운 기준을 제시하다: 31,000기가바이트 서버 랙

최근 Advancing AI 2026 행사에서 AMD는 소비자 기술과 기업용 하드웨어 간의 격차가 점점 더 커지고 있음을 분명히 보여주었습니다. 일반 PC 사용자들이 게임용 16GB 그래픽 카드의 가격을 감당하기 어려워하는 반면, AMD는 서버 측 컴퓨팅 성능에서 엄청난 도약을 이뤄냈습니다.

256코어 괴물의 등장

이번 행사의 핵심은 새로운 6세대 EPYC 9006 시리즈(SP7) 프로세서였습니다. 단일 칩에 무려 256개의 코어와 512개의 스레드를 탑재하고 부스트 클럭이 5.15GHz에 달하는 이 칩은 강력할 뿐만 아니라 패러다임을 바꿀 만한 제품입니다.

'에이전트형' AI의 높은 오버헤드 요구 사항을 충족하도록 설계된 이 프로세서는 일반 소비자용 CPU로는 처리하기 어려운 복잡한 샌드박스 환경과 대규모 메모리 상태를 처리합니다.

헬리오스: 31,000기가바이트의 괴물

아마도 더 놀라운 것은 헬리오스 랙스케일 솔루션일 것입니다. 이 단일 서버 캐비닛에는 18개의 컴퓨팅 트레이가 있으며, 각 트레이에는 72개의 AMD Instinct MI455X GPU가 탑재되어 있습니다.

그 결과, 31테라바이트(31,000GB)의 HBM4 VRAM과 초당 1.7페타바이트의 메모리 대역폭을 제공하는 통합 시스템이 탄생했습니다.

이를 이해하기 쉽게 설명하자면, 헬리오스 랙 하나는 약 1,900개의 엔비디아 RTX 5070 Ti 데스크톱 GPU가 완벽하게 동기화되어 작동하는 것과 맞먹는 메모리 대역폭을 제공합니다.

실리콘 불평등 격차

이번 발표는 현재 AI가 주도하는 기술 환경에서 자원 확보를 위한 치열한 경쟁을 보여줍니다. 제조 역량이 이러한 대규모 고수익 기업 솔루션에 집중됨에 따라, 소비자들은 높은 가격과 제한된 공급으로 특징지어지는 'RAMageddon' 현상이 언제 끝날지 궁금해하고 있습니다. 헬리오스 시스템의 엄청난 규모는 인간의 공학적 기술력을 보여주는 증거이지만, 고성능 실리콘의 미래가 어떤 방향으로 나아가고 있는지에 대한 냉철한 경고이기도 합니다.

관련 게시물