H100 94GB 가 2장 포함된 1억원대 인공지능 개발 수냉식 GPU 서버

안녕하세요, H3솔루션입니다.

오늘은 저희가 개발한 수냉식 서버/워크스테이션 브랜드인 ‘노틸러스(Nautilus)’를 정식으로 소개해드리고자 합니다.

이미 KES2024 행사를 통해 대중에게 첫선을 보였으며, 많은 관심과 긍정적인 피드백을 받았습니다. 제품별 상세한 스펙은 본 포스팅 하단의 링크에서 확인하실 수 있으니 참고해 주시기 바랍니다.

그중에서도 이번 포스팅에서는 저희의 주력 제품 중 하나인 ‘Nautilus-6U’ 모델을 집중적으로 소개하겠습니다.

Nautilus-6U는 6U 규격의 고성능 수냉식 GPU 서버로, 사무실 및 연구실 환경에서의 공동 사용을 염두에 두고 설계된 제품입니다. 특히 서버실 구축이 어렵거나, 코로케이션 환경에 제한이 있는 고객에게 최적의 솔루션을 제공합니다.

이 모델의 가장 큰 특징은 최대 3000W 이상의 TDP를 안정적으로 냉각할 수 있는 강력한 수냉 쿨링 솔루션과 함께, 최대 7장의 고성능 GPU를 동시에 장착하여 구동할 수 있다는 점입니다. 더불어 최대 소음 수준은 55dB 이하로 조용한 사무실 수준의 정숙성을 자랑합니다.

Nautilus-6U의 강점은 병렬식 수냉 설계입니다. 병렬식 수냉 방식은 각 컴포넌트에 균일한 냉각 효과를 제공하여 발열에 의한 부하를 최소화하고, 칩셋의 수명과 안정성을 크게 향상시킵니다.

유지보수가 쉽고, 누수로부터 안전하도록 설계를 진행하였습니다.

이번에 출고된 본체에는 인텔 제온 스케이러블 시리즈의 인텔 제온 스케이러블 골드 6426Y 2개가 장착되었습니다.

메인보드는 SUPERMICRO 사의 X13DAI-T 제품이며 , 인텔 4세대 5세대 CPU가 2개 장착이 가능한 메인보드입니다.

PCIE 레인은 총 5개의 PCIE 5.0 x 16 레인을 가지고 있으며 , 1개의 PCIE5.0 X 8 레인을 가지고 있습니다.

이번 노틸러스6U 에서는 총 64GB x 8EA 로 , 512GB 구성으로 출고가 되었고, 메인보드 스펙상 최대 4TB까지 장착이 가능합니다.

이번 Nautilus-6U의 가장 큰 부분을 차지하는 NVIDIA H100 94GB 제품입니다. 총 두개의 H100 94GB 중, 한개는 저희가 수냉화 작업을 위해서 분리를 한 상태입니다. 기존에는 H100 80GB 제품들이 주로 출고가 되었지만 , 이번 경우엔 94GB 모델로 출고가 되었습니다. H100 94GB의 PCB 기판을 보시면 , 기존 80GB 모델과의 차이가 보이는데요.

전체 레이아웃 자체는 비슷하지만 가장 외적으로 큰 차이는 , 코어 아래부분에 커패시터와 , 초크 모스펫이 하나씩 추가되었고 좌측 우측에도 초크가 한 개씩 더 추가되어 있습니다.

사담으로, 정말 정말 많이 찾아봤는데 H100 94GB PCIE 제품의 PCB 기판은 정보가 없었습니다.

아마 기판 PCB 사진은 저희가 최초 업로드가 아닐까 싶습니다 !

조금 더 세부적으로 차이는 H100 94GB 쪽이 , MLCC가 훨씬 더 많이 들어간 정도 의 차이가 있는것 같습니다.

해당 제품은 추후에 워터블럭을 장착한 하여 , 조립을 진행하여 주었습니다.

내부 냉각을 위해 3330RPM의 강력한 25T 팬 6개를 장착하여, 고부하 상황에서도 탁월한 냉각 성능을 유지합니다. 예를 들어, RTX 4090 GPU 7장을 동시에 가동해도 문제없이 작동하며, H100 PCIe와 같은 고성능 GPU에서도 충분한 여유 냉각이 가능합니다.

또한 펌프의 내구성과 안정성을 위해 총 3개의 D5 펌프를 구성하여, 하나의 펌프가 고장 나더라도 시스템 전체의 냉각 유속과 성능에는 전혀 지장이 없도록 설계했습니다.

제품 전면에는 7인치 터치스크린을 장착하여 GPU 온도, 렌더링 및 학습 진행 상황 등 서버 상태를 간편히 모니터링할 수 있습니다.

또한 전면 패널에 위치한 투명 아크릴 물통을 통해 냉각수 잔량을 육안으로 손쉽게 확인할 수 있으며, 5개의 핫스왑 베이를 지원하여 저장장치의 탈착과 유지보수를 간편하게 하였습니다.

마지막으로 진행된 소음 테스트에서는 서버에서 불과 1m 떨어진 거리에서도 평균 52dB 수준의 소음으로, 일반적인 조용한 사무실 환경과 비슷한 수준을 유지했습니다. 이는 특히 소음에 민감한 연구실이나 사무 공간에서도 안심하고 사용할 수 있는 환경을 제공합니다.

이렇게 , 전체 빌드를 마무리 하였습니다. 하단에 저희 Nautilus 브랜드의 링크도 함께 첨부드리며 포스팅을 마치도록 하겠습니다 .