전 세계에 액침냉각을 포함한 서버 및 스토리지 솔루션을 공급 중인 슈퍼마이크로는 약 30년 전 미국 캘리포니아주 산호세에 설립된 이후 기존 시스템솔루션 제공업체들과 경쟁하며 성장해왔다. 찰스 리앙(Charles Liang) CEO는 마케팅보다 혁신적인 제품 개발에 전념하는 경영 방침을 고수한 결과 제품 우수성과 빠른 제품 출시로 호평받으며 시장에서의 지위를 다져나가고 있다. 김성민 슈퍼마이크로 FAE & 비즈니스 개발부문 이사를 만나 슈퍼마이크로의 차별성과 액침냉각시장 동향에 대해 들었다.

실리콘밸리 중심에 위치한 슈퍼마이크로는 엔지니어링 및 생산기능을 해외로 아웃소싱하는 대부분의 경쟁업체와 달리 산호세 본사에서 제품을 엔지니어링하고 생산함으로써 경쟁력을 유지하고 있다.

슈퍼마이크로는 2,300명 이상 직원이 근무하는 11개 현지 제조시설이 위치한 베이 지역(Bay Area)에서 최대 제조업체 중 하나로 자리매김했다. 연구개발 대부분을 내부 인력으로 해결함으로써 설계팀간 커뮤니케이션과 협업을 향상시키는 한편 개발프로세스를 간소화하고 타임 투 마켓(time-to-market)을 효과적으로 단축하고 있다.

슈퍼마이크로는 자체 제조를 고집함으로써 우수한 성능과 품질을 지닌 업계 최고 수준의 서버와 스토리지 제품을 설계, 제조하고 있으며 동시에 타임 투 마켓을 단축해 시장에 빠르게 대응하고 제품혁신과 우수성 기반을 마련하고 있다.

슈퍼마이크로의 이러한 전략은 업계 선두기업들과 경쟁할 수 있는 필수동력으로 작용한다. 슈퍼마이크로는 이를 통해 민첩성을 높이고 고객의 요구를 보다 효과적으로 만족시키는 솔루션을 개발하고 있다. 이와 같은 설계 장점은 대규모의 아시아 제조업체들과 경쟁할 수 있는 슈퍼마이크로의 경쟁력이며 이를 지속 개선하기 위해 노력하고 있다.

슈퍼마이크로는 업계에서 가장 최적화된 하드웨어를 탑재했으며 에너지소비를 최소화하는 AI 하드웨어플랫폼인 그린컴퓨팅을 제공한다. 슈퍼마이크로의 시스템솔루션은 자율주행, 챗GPT, 의료앱, 과학연구, 일기예보, 4차산업혁명 등 AI 워크로드, AI 소프트웨어, AI 앱, 서비스가속화에 최적화됐다.

‘8U 엔비디아 H100 HGX 8 시스템’은 처음부터 랙 단위 규모의 통합을 염두에 두고 설계됐다. NVLink 및 NVSwitch 네트워크로 32개 시스템, PCIe Gen5 스토리지, 400G 인피니밴드, 엔비디아 BlueField-3 DPU가 상호 연결된 최대 256개의 H100 GPU 등 최신기술을 바탕으로 뛰어난 성능, 전력 효율성 및 간편한 구축을 지원하며 대규모 언어모델을 서비스할 수 있다.

이 시스템은 완전히 통합된 랙을 통해 모든 GPU와 CPU를 수냉식으로 냉각할 수 있다. 새로운 수냉식 방열판, 매니폴드, CDU(냉각분배장치) 모두 이에 최적화돼 있다. 사용자와 고객을 위해 완전 통합형 수냉식 랙은 기본적으로 플러그 앤 플레이 방식으로 설계된다. 대부분 수냉식 랙 솔루션이 데이터센터(DC) 전력소비를 최대 60%까지 줄일 수 있어 에너지 및 비용절감에 크게 기여한다.

‘5U 10GPU 옴니버스’에 최적화된 시스템은 슈퍼마이크로 제품군 중 가장 우수한 냉각설계를 확보했다. 다양한 종류의 가속기를 최대 10개까지 장착 가능해 고집적도에서도 최고 성능을 발휘하도록 설계됐다. 하드웨어 구성을 다양화할 수 있는 이 시스템은 12배 빠른 대규모 언어 모델의 추론성능을 비롯해 데이터 집약적이며 고성능 그래픽 연산 등 다양한 워크로드에 탁월한 성능을 제공한다. 빠르게 진화하는 가속 컴퓨팅 워크로드에 대한 수요를 충족하기 위해 스케일아웃 가속 인프라에 초점이 맞춰졌다.

‘슈퍼마이크로 슈퍼블레이드시스템’은 GPU시스템을 제외하면 가장 오래된 베스트셀러 중 하나다. 슈퍼마이크로의 고성능, 고집적, 에너지효율적인 슈퍼블레이드를 사용하면 초기자본 및 운영비용을 대폭 감축할 수 있다. 전력, 냉각, 네트워킹 등 관련부품은 이중화 및 공유가 가능하도록 설계됐다. 이에 따라 최소 95%까지 줄어든 케이블링, 최적화된 리소스 절약, 하드웨어 및 유지보수 비용 절감이 가능하며 훨씬 작은 상면공간에서도 일반 랙마운트형 서버 랙에 준하는 컴퓨팅 성능을 제공한다. 슈퍼마이크로는 AI, 데이터분석, HPC, 클라우드 및 엔터프라이즈 워크로드에 최적화된 대규모 구축사례를 보유했기 때문에 확실히 안정적이다.

‘하이퍼시리즈’는 모든 작업을 고르게 처리하는 범용시스템이다. 인텔 제온 및 AMD EPYC 프로세서를 지원하는 서버로 슈퍼마이크로의 플래그십 랙마운트형 서버에 PCIe Gen5를 제공한다. HPC 슈퍼컴퓨팅과 같이 가장 까다로운 워크로드를 처리하도록 설계된 가운데 다양한 앱 요구사항에 맞춘 스토리지 및 I/O 유연성을 갖췄다.

‘올플래시 E1.S 및 E3.S스토리지’는 표준 1U 또는 2U 랙마운트시스템에서 최대 1PB(페타바이트)를 통해 사용자가 엄청난 양의 데이터에 손쉽고 빠르게 액세스할 수 있도록 지원한다. 특히 AI의 경우 전체 시스템속도를 저하시키는 병목현상없이 애플리케이션에 데이터를 공급하려면 향상된 스토리지 성능이 필수적이다. 새로운 E1.S 및 E3.S 플래시 스토리지시스템은 인텔과 AMD의 최신 프로세서에서 향상된 인터커넥트 대역폭을 제공한다. 콤팩트하며 에너지 효율적인 동시에 업계에서 가장 낮은 레이턴시 및 가장 높은 대역폭을 제공한다. 또한 PB급으로 설계돼 핫 및 웜티어 스토리지 요구사항을 충족하는 데 필요한 시스템 수를 줄여 총 소유비용 및 탄소발자국을 동시에 절감한다.

‘슈퍼엣지 시즈템’은 통신사, 엣지 워크로드에 최적화됐으며 2U 콤팩트 폼팩터에 핫스왑이 가능한 3개의 단일 프로세서 노드와 전면 I/O를 갖춘 고밀도 처리 성능을 제공한다. AC 또는 DC 전원 모두 공급 가능하며 최대 55°C 상온 동작환경을 지원한다. 멀티 액세스 엣지컴퓨팅, 오픈RAN 및 아웃도어 엣지 구축에 적합하며 슈퍼엣지는 인텔리전트 엣지에 고밀도 컴퓨팅 및 유연성을 제공한다.

슈퍼마이크로는 빌딩블록시스템(BBS) 아키텍처를 통해 PCB, 시스템, 랙스케일 PnP, 다양한 수준의 클라우드 서비스는 물론 모든 종류의 엣지 애플리케이션을 위한 솔루션을 최적화한다. 모듈화된 서브시스템 설계를 사용하는 BBS는 끊임없이 변화하는 시장에서 리더가 될 수 있는 유연성과 많은 이점을 제공한다. 최신 AI 솔루션은 빌딩블록방법론을 활용해 최적화된 성능과 전력 및 비용대비 성능을 통해 고객의 제품, 아이디어, 서비스가 보다 신속하게 시장에 진출할 수 있도록 지원한다. 슈퍼마이크로는 20년 넘도록 시스템빌딩블록을 최적화해 왔다.

DC 내 워크로드 요구사항을 효율적으로 충족하도록 설계돼 적합한 서버를 선택하면 전체 전력소비에 긍정적인 영향을 미칠 수 있다. 서버시스템은 특정 워크로드를 수행토록 최적화돼야 하며 이를 통해 필요하지 않은 과도한 처리능력을 줄여야 한다. 또한 일부 서버는 특정 주요 부품을 공유하는 설계 덕분에 다른 서버보다 에너지효율이 높다. 최신 세대 시스템은 W당 작업 수행량이 많아 주어진 워크로드에 대한 전력소비가 줄어든다.

한국에서는 AI 가속기업체들과 직간접적으로 협력하고 있다. AI 추론시장이 AI 학습시장보다 더 빠르고 큰 규모로 성장할 것으로 예상되는 만큼 전력효율이 높은 NPU 활용가치가 기대된다. 업계에서 가장 빠른 시장출시 속도를 자랑하는 개방형 하드웨어 플랫폼 공급업체로서 다양한 벤더들과 협력해 AI 추론시장 성장에 기여할 예정이다. 특히 냉매로 채워진 수조 안에 서버를 집어넣는 액침냉각분야에서도 국내‧외 생태계 협력사들과 협업하고 있다.

슈퍼마이크로는 현재 다양한 한국 파트너사들과도 협력해 증가하는 수냉식 솔루션에 대한 수요를 충족시키며 시장개척 및 성장기회를 찾고 있다.

컴퓨팅 칩 TDP가 높아지면서 PUE 측면에서 보다 효율적이고 친환경적인 수냉식 냉각기술이 많은 주목을 받고 있다. 액침냉각기술은 냉매로 채워진 수조 안에 서버를 담그는 방식이며 DLC(Direct Liquid Cooling)의 경우 칩을 직접 냉각해 보다 접근성이 좋다. 슈퍼마이크로는 이 DLC기술을 사용해 미국과 일본 등지에서 슈퍼컴퓨터를 구축한 사례가 있다.

최근 슈퍼마이크로는 업계 최초로 수냉식 방열판인 DLC 냉각방식을 개발하고 엔비디아 HGX H100 GPU와 엔비디아 NVIDIA HGX 4-H100를 탑재한 수냉식 서버를 공개했다. 해당 제품은 랙 플러그 앤 플레이 수냉식솔루션으로 구축돼 성능향상 및 운영비용 절감과 동시에 환경에 미치는 영향을 최소화할 수 있다. 새로운 수냉식 엔비디아 H100 시스템은 서버냉각비용을 최대 80%까지 줄이며 전체 DC전력소비를 최대 60%까지 절감할 수 있다.

한국은 아시아에서 중국, 일본에 이어 3번째로 큰 DC시장이다. 국내뿐만 아니라 글로벌기업에서 하이퍼스케일 DC를 건설할 정도로 DC산업이 매우 활성화됐다. 슈퍼마이크로도 이러한 한국의 중요성을 이해하고 있어 한국지사를 설립했으며 그린컴퓨팅을 가치로 DC산업 활성화에 기여하고자 한다.

한국은 아시아 내에서 세번째로 많은 DC 인프라를 지녔다. 컴퓨팅 수요, 전기비용, 칩 TDP가 증가함에 따라 수냉식 냉각방식에 대한 수요는 계속 늘어날 것으로 예상된다. 특히 ChatGPT와 같은 초거대언어모델(LLM)이 최근 각광을 받으면서 막대한 컴퓨팅 리소스가 필요하게 돼 수냉식 냉각방식에 대한 수요 증가가 가속화될 것으로 예상한다.

빠르게 증가하는 AI 토탈 랙 솔루션에 대한 수요를 지원하기 위해 최근 미국, 대만, 네덜란드 시설을 꾸준히 확장하고 있다. 또한 전 세계 DC구축을 지원 및 서비스할 수 있는 초대형 서버 및 랙 생산능력을 갖추고 있다. 향후 말레이시아, 일본 및 기타 다른 국가에서 공장을 확장할 계획이며 이는 더 많은 새로운 비즈니스 기회를 지원하게 될 것이다.

슈퍼마이크로의 원스톱 샵 토탈 IT 전략은 고객이 핵심 비즈니스에 더 집중하고 클라우드부터 엣지까지 IT 하드웨어 솔루션은 슈퍼마이크로에 맡길 수 있도록 하는 것이다. 현재 월 최대 4,000개 랙을 지원할 수 있는 글로벌 제조역량을 갖추고 있으며 올해 말 월 5,000랙까지 생산능력 확대를 가속화할 예정이다.

아시아는 세계적으로 가장 빠르게 성장하고 있는 지역 중 하나다. 특히 한국은 두드러지는 차이점을 지니고 있다. 예를 들어 글로벌 하드웨어 제조기술 역량은 물론 자체적인 클라우드 및 통신서비스 제공업체와 숙련된 IT인력을 지녔다. 슈퍼마이크로는 에너지효율적인 그린컴퓨팅을 바탕으로 한국 IT 생태계에 기여하고 성장을 가속화하기 위해 노력하겠다.

친환경 컴퓨팅은 우리의 DNA이며 슈퍼마이크로의 모든 솔루션 설계에 깊이 뿌리 박혀 있다. 대부분의 조직이 DC를 위해 친환경컴퓨팅 솔루션을 사용하게 된다면 연간 전기비용 총 100억달러를 절약할 수 있을 것이다. 이에 더해 슈퍼마이크로와 같은 친환경컴퓨팅 솔루션에서 전기를 절감하는 것은 지구에 화석연료 발전소 30여개를 없앨 수 있는 효과가 있으며 CO₂배출을 상쇄하기 위해 약 80억그루의 나무를 보존하는 것과 같다.