미국 캘리포니아주 스탠포드 대학교에서 열린 핫칩스 2024(Hot Chips 2024)에서 NVIDIA가 데이터센터 혁신에 대한 발표를 진행했습니다. 이번 컨퍼런스에서는 Blackwell 플랫폼, 데이터센터용 액체 냉각 기술, 칩 설계를 위한 AI 에이전트 등 다양한 주제가 다뤄졌습니다.
NVIDIA Blackwell 플랫폼: 차세대 AI를 위한 혁신
NVIDIA는 새로운 Blackwell 플랫폼을 통해 차세대 AI를 지원하는 혁신을 선보였습니다. 이 플랫폼은 Blackwell GPU와 Grace CPU를 결합한 GB200 NVL72를 소개하며, LLM(거대 언어 모델) 추론에서 짧은 지연 시간과 높은 처리량을 제공할 수 있는 기술을 강조했습니다. 또한, 수냉식 랙 스케일 솔루션을 기반으로 수조 개의 파라미터 모델을 실시간으로 처리할 수 있는 성능을 보여주었습니다.
NVLink 인터커넥트 기술을 통해 생성형 AI에 필요한 높은 처리량과 짧은 지연 시간을 제공하는 방법을 설명하고, Quasar Quantization 시스템으로 AI 컴퓨팅 성능을 극대화하는 방법도 소개되었습니다.
액체 냉각 기술: 데이터센터의 에너지 효율성 향상
NVIDIA는 데이터센터의 냉각 효율성을 극대화하기 위해 공냉식과 액체 냉각을 결합한 하이브리드 냉각 솔루션을 제안했습니다. 이 방식은 기존의 공냉식 데이터센터보다 에너지 효율성을 크게 향상시키며, 대규모 워크로드를 처리하면서도 시스템을 안정적으로 냉각할 수 있는 액체 냉각 기술의 장점을 강조합니다.
또한, NVIDIA는 미국 에너지부의 쿨러칩스(COOLERCHIPS) 프로그램의 일환으로, NVIDIA Omniverse 플랫폼을 활용해 물리 정보 기반 디지털 트윈을 생성하여 데이터센터 설계 최적화를 지원하는 작업을 진행하고 있습니다.
칩 설계를 위한 AI 에이전트: 반도체 설계의 새로운 패러다임
NVIDIA는 반도체 설계에 AI 에이전트를 활용하는 방법을 집중적으로 다뤘습니다. AI 모델은 설계 품질을 향상시키고, 수작업 프로세스를 자동화하여 효율성을 극대화할 수 있습니다. 특히, 엔지니어들이 설계 분석, 코드 생성, 설계 문제 디버깅 등을 지원받을 수 있는 LLM 기반 AI 에이전트가 소개되었습니다.
NVIDIA는 이러한 기술을 활용하여 셀 클러스터 최적화 작업을 수행하고 있으며, 이 작업은 최근 IEEE 국제 워크숍에서 최우수 논문상을 수상했습니다.
결론
핫칩스 2024에서 NVIDIA는 데이터센터 컴퓨팅과 설계의 모든 영역에서 전례 없는 성능, 효율성, 최적화를 제공하기 위한 혁신적인 기술들을 발표했습니다. Blackwell 플랫폼, 액체 냉각 기술, AI 에이전트 등 NVIDIA의 새로운 기술들은 데이터센터의 미래를 이끌어갈 중요한 요소로 자리잡을 것입니다.
앞으로 NVIDIA의 기술이 어떻게 발전해 나갈지 기대됩니다.
NVDA 엔비디아 배당금, 배당일, 배당률, 배당 성장률, 주가전망 | 1억 투자시 배당금
NVDY 배당금, 배당일, 배당락일, 지급일, 주가전망 | 1억 투자시 배당금