한국HPE(대표 김영채)는 16일 본사 발표를 인용, 5세대 AMD 에픽(EPYC) 프로세서와 AMD 인스팅트(Instinct) MI325X 가속기를 탑재한 복합 AI 모델 학습용 ‘HPE 프로라이언트 컴퓨트 XD685(HPE ProLiant Compute XD685)’ 서버를 출시했다.

새로운 HPE 시스템은 대규모 언어 모델(LLM) 학습, 자연어 처리 및 멀티 모달 학습을 위한 고성능의 에너지 효율적 인공지능(AI) 클러스터를 신속하게 배포할 수 있도록 최적화됐다.

AI의 잠재력을 실현하고 인력 생산성, 의료, 기후 과학 등 다양한 분야에서 획기적인 성과를 이끌어내기 위한 경쟁이 치열해지고 있다.

이같은 잠재력을 극대화하기 위해 AI 서비스 제공업체, 정부, 대규모 모델 개발자들은 신속하게 시장에 출시할 수 있는 유연하고 고성능의 솔루션을 필요로 한다. 

▲ HPE 프로라이언트 컴퓨트 XD685.(출처 : 한국HPE 제공)

트리시 댐크로거(Trish Damkroger) HPE HPC 및 AI 인프라 솔루션 부문 수석 부사장 및 책임자는 “대규모 언어 모델을 효율적으로 학습하려면 뛰어난 확장성, 대규모 병렬 컴퓨팅 성능 그리고 HPE의 고성능 컴퓨팅 솔루션만이 제공할 수 있는 독보적인 서비스가 필요하다. 세계에서 가장 강력하고 에너지 효율적인 시스템을 제공하는 선두 기업으로서, AMD와 협력해 HPE 프로라이언트 컴퓨트 XD685로 이 혁신을 확장하고, AI 모델 개발자 시장의 수요에 부응하며, 산업 전반에서 과학과 공학의 혁신을 가속화할 것”이라고 말했다.

포레스트 노로드(Forrest Norrod) AMD 데이터센터 솔루션 그룹 부사장 겸 총괄 매니저는 “최신 AMD 에픽™ 프로세서와 인스팅트™ 가속기의 강력한 조합을 통해 HPE 프로라이언트 컴퓨트 XD685 고객들은 시장 출시 시간을 단축하고 AI 성능과 효율성에서 진정한 리더십을 경험할 수 있다. HPE와의 협력을 통해 대규모 언어 모델 학습에 대한 수요 증가에 대응하며, AI 노력을 극대화하고, 업계의 경쟁력 있는 혁신을 촉진하는 유연하고 고성능의 솔루션을 지속적으로 제공하고 있다”고 말했다.

◆신속한 솔루션 및 유연성 통해 AI 경쟁력 강화 = HPE 프로라이언트 컴퓨트 XD685는 HPE가 설계한 새로운 모듈형 섀시를 통해 대규모 AI 모델 학습 및 조정 프로젝트에 신속한 솔루션을 제공한다.

모듈형의 컴팩트한 5U 섀시는 솔루션의 시장 출시 시간을 단축시키고 다양한 GPU, CPU, 구성 요소, 소프트웨어 및 냉각 방식을 수용할 수 있는 유연성을 제공한다.

또한, 수십 년간 축적된 HPE의 직접 수냉 방식(Direct Liquid Cooling, DLC) 노하우와 HPE iLO의 보안 혁신을 결합해 지속가능하고 안전한 고성능 솔루션을 구현한다.

- 더 적은 GPU로 대규모 AI 모델 실행 = AMD CDNA 3 아키텍처로 구동되는 AMD 인스팅트 MI325X 가속기는 학습 및 추론 작업에서 뛰어난 AI 성능과 효율성을 제공한다.

MI325X 가속기는 초당 6 테라바이트(TB)의 메모리 대역폭을 갖춘 업계 최고 수준의 HBM3e 메모리 용량을 통해 성능을 최적화하고 총소유비용(TCO)을 절감한다.

- 직접 수냉 방식(Direct Liquid Cooling)으로 효율성 향상 = 직접 수냉 방식(Direct Liquid Cooling) 옵션은 조직이 증가하는 전력 요구 사항을 충족하고 지속가능성 목표를 달성하며 운영비용을 낮추도록 지원한다.

이는 HPE의 수십 년간의 전문성과 세계 최대 액체 냉각 IT 환경 배포에서의 시장 리더십을 활용한 결과다.

- 배포 및 운영 가속화 = HPE 서비스는 대규모 AI 클러스터를 전 세계 어디에서나 안정적이고 우수한 운영으로 설치 및 배포할 수 있도록 모든 범위의 맞춤형 유연성 서비스를 제공한다.

전문 서비스 팀이 공장에서 솔루션을 구축, 통합, 검증, 테스트 및 맞춤화하여 현장 배포 시간을 단축시킨다.

- 증가하는 보안 위협에 대비 = HPE iLO를 통해 HPE 프로라이언트 컴퓨트 XD685 시스템을 안전하게 관리, 공급망에서부터 시작해 실리콘에 내재된 업계 최고 수준의 보안 혁신과 원활한 관리를 제공한다.

- 랙 집적도 최적화 = HPE가 설계한 5U 서버 섀시는 랙당 8노드 구조로 컴팩트하게 구성되어 8웨이 GPU 시스템의 랙 집적도를 극대화한다.

HPE 프로라이언트 컴퓨트 XD685는 8개의 AMD 인스팅트™ MI325X 또는 AMD 인스팅트 MI300X 가속기, 최신 AMD 에픽 9005 시리즈 프로세서 2개, 공랭 혹은 직접 수냉 방식 방식을 지원한다.

- 대규모 AI 클러스터 관리 간소화 = HPE 퍼포먼스 클러스터 매니저(HPE Performance Cluster Manager)는 완전 통합 시스템 관리 소프트웨어로, 베어메탈에서 자동화된 설정으로 복잡한 시스템을 빠르게 운영할 수 있도록 지원하며, 상세한 텔레메트리, GPU 스트레스 테스트 등을 통해 클러스터를 안정적으로 유지 및 운영한다.

HPE는 또한 AMD 에픽 프로세서를 탑재한 HPE 프로라이언트 서버가 AMD 에픽 9005 시리즈 프로세서를 사용하는 HPE 프로라이언트 Gen11 서버(HPE ProLiant Gen11 Server)에서 30개의 새로운 세계 기록을 포함해 총 48개의 세계 기록을 달성했다고 발표했다.

이 기록에는 엔터프라이즈 워크로드에 대한 성능 및 전력 효율성에서의 선두적인 성과가 포함된다.

HPE 프로라이언트 컴퓨트 XD685는 16일부터 HPE를 통해 주문할 수 있으며, 2025년 1분기부터 다양한 구성으로 순차적으로 출시될 예정이다.

<김동기 기자>kdk@bikorea.net