슈퍼마이크로, AMD Instinct MI350 GPU 탑재한 최첨단 AI 데이터센터 솔루션 발표

슈퍼마이크로가 AMD Instinct MI350 시리즈 GPU를 적용한 신형 데이터센터 솔루션을 내놨는데, 이 제품은 액체 냉각과 공기 냉각 옵션 모두를 지원한다고 하네요.

이 솔루션은 AI, 클라우드, 고성능 컴퓨팅(HPC)과 같은 고성능 작업을 겨냥했으며, AMD EPYC 9005 CPU 2개와 같이 구성되어 있어 성능과 효율성을 극대화합니다.

사실 이 제품은 AI 기반 데이터센터에서 최대 성능을 내면서도 총 소유 비용을 낮추려는 기업들에게 딱 맞는 제품입니다.

슈퍼마이크로 최고경영자 찰스 리앙도 이 회사가 AI와 HPC 시스템을 가장 잘 다루는 선두주자임을 강조했어요.

특히 슈퍼마이크로의 '데이터센터 빌딩 블록 솔루션'이라는 방식은 고객사들이 원하는 데이터센터를 빠르게 구축할 수 있게 해주는데, 이번 MI350 GPU 추가로 AI 솔루션 역량이 더 강해졌다고 하네요.

이 H14 세대 GPU 서버는 매우 유연하면서도 AI, 클라우드, 엔터프라이즈 워크로드를 모두 잘 처리할 수 있게 설계되었습니다.

간단히 말하면, 이 서버들은 건축용 블록처럼 쌓을 수 있어서, 기업들이 필요한 만큼 점진적으로 확장하기에도 좋아 보입니다.

AMD CEO 리사 수는 MI350 시리즈가 경쟁제품 대비 토큰당 비용 효율이 40% 정도 더 높다고 밝혔는데, 여기서 '토큰'은 AI 모델들이 처리하는 텍스트 조각 같은 단위입니다.

'폼팩터'도 표준을 유지해서 기존 장비와 잘 맞는다고 하네요.

슈퍼마이크로는 고성능 8 GPU 시스템을 액체 냉각과 공기 냉각 옵션으로 모두 제공하고 있어 각 환경에 맞게 선택할 수 있습니다.

특히 4U 크기의 액체 냉각 시스템에는 향상된 직접 액체 냉각 기술이 적용돼 전력 소모를 최대 40%까지 줄이고 성능을 강화할 수 있게 설계되었습니다.

용어 정리하자면, 4U나 8U는 서버 크기를 뜻하는데, U는 ‘서버 랙 단위’를 말하며, 숫자가 작을수록 더 작은 공간을 차지합니다.

이 GPU들은 최신 HBM3e 메모리 288GB를 장착해 이전 세대보다 1.5배 더 많은 메모리를 제공하며, 데이터 처리 속도와 AI 계산 능력이 크게 향상됐어요.

FP16과 FP8은 AI 연산에 쓰이는 숫자 타입인데, 이런 저정밀 데이터 형식을 사용하면 빠르게 계산하면서도 에너지 효율을 높일 수 있습니다.

산업 분석가인 폴 쉘은, AI 모델들이 계속 커지고 복잡해지는데, 이런 신기술이 탑재된 시스템이 이를 빠르고 효율적으로 처리할 수 있도록 해준다고 설명했어요.

또 클라우드 서비스 제공업체나 신생 클라우드 기업, 대기업들 모두에게 유연한 냉각 옵션 덕분에 적절한 선택지가 될 수 있다고 강조했습니다.

말하자면, 이 시스템들은 AI 트레이닝(모델 학습) 뿐만 아니라 추론(실제 처리)에도 모두 탁월한 성능을 발휘합니다.

새로운 FP6와 FP4 숫자 타입도 지원해, 더 크고 복잡한 AI 모델을 효과적으로 다룰 수 있게 녹였다고 하네요.

끝으로, 이 GPU 서버 제품들은 이미 주문이 가능하며, 액체 냉각형은 4U, 공기 냉각형은 8U 모델로 각각 구분돼 출시되고 있습니다.