[Computex 2025] NVLink Fusion & DGX Spark
어제 Computex 2025에서 Nvidia Jensen Hwang CEO가 기조연설을 했습니다. AI의 미래를 이야기했지요.
1. https://www.youtube.com/live/TLzna9__DnI?si=tldgLgVoByXrRC2x
Nvidia CEO Jensen Huang Keynote at Computex 2025
NVLink Fusion, semi-custom AI 인프라 구축
AI-First DGX 개인용 시스템: DGX Spark와 DGX Station
2. blog. https://blogs.nvidia.com/blog/computex-2025-jensen-huang/ Chrome 번역 활용하고 제가 손 봅니다.
Nvidia CEO, AI infra 산업의 가치가 '수조 $'에 달할 것으로 전망
AI 기반 미래에 대한 광범위한 비전을 발표하고 새로운 플랫폼과 파트너십을 선보였습니다.
May 18, 2025 by Brian Caulfield
전기. 인터넷. 이제 또 다른 주요 기술인 AI가 전 세계를 휩쓸 차례입니다.
Nvidia의 창립자이자 CEO인 젠슨 황은 월요일 타이베이 뮤직 센터에 가득 찬 관객석에서 Computex 2025의 개막을 알리며 무대에 올랐습니다. 그는 4,000명이 넘는 청중을 사로잡으며 모든 국가, 모든 산업, 모든 회사를 휩쓸 기술 혁명에 대한 비전을 제시했습니다.
AI는 이제 인프라이며, 인터넷이나 전기처럼 공장이 필요합니다. 이러한 공장을 바로 오늘날 우리가 짓는 것입니다.
이것들은 과거의 데이터 센터가 아닙니다."이 AI 데이터 센터들은, 굳이 표현하자면, 부적절합니다. 사실, AI 공장이죠. 에너지를 공급하면 엄청나게 가치 있는 무언가가 생성되는데, 이것을 token이라고 합니다.
NVIDIA CUDA-X Everywhere: 파트너 로고로 가득 찬 거대한 벽을 보여준 후, 기업들이 CUDA-X 플랫폼을 어떻게 다양한 응용에 활용하는지, AI를 사용하여 6G를 구축하는 방법, 그리고 양자 슈퍼컴퓨팅 가속화를 공개했습니다. 설치 기반이 커질수록 개발자들은 더 많은 라이브러리를 만들고 싶어 하고, 라이브러리가 많아질수록 더 놀라운 일들이 이뤄집니다. 더 나은 응용은 사용자에게 더 많은 이점을 제공합니다.
AI의 추론 및 인식 능력이 점점 더 발전하고 있으며, 더 많은 것이 다가오고 있다. 이는 agent AI, 즉 이해하고, 생각하고, 행동할 수 있는 AI로 이어집니다. 그 너머에는 물리적 AI, 즉 세상을 이해하는 AI가 있습니다. 그 다음 단계는 일반 로봇 공학이라고 그는 말했습니다.
이 모든 것이 훨씬 더 강력한 컴퓨팅 성능에 대한 수요를 창출했습니다. 이러한 요구를 충족하기 위해 Grace Blackwell NVL72 시스템부터 고급 네트워킹 기술에 이르기까지 최신 NVIDIA 혁신 기술이 있고, CoreWeave, Oracle, Microsoft, xAI 등 전 세계 기업들이 도입한 대규모 신규 AI 시스템에 대해서도 자세히 설명했습니다.
"많이 살수록 더 많이 벌 수 있으니까요."“The more you buy, the more you make.”
대만을 위한 AI 구축: Foxconn과 오랜 파트너십을 더욱 강화하고 대만 정부와 협력하여, TSMC 등 여러 산업 분야에 제공할 AI 팩토리 슈퍼컴퓨터를 구축합니다.
대만에 세계적 수준의 AI 인프라를 갖추는 것은 정말 중요하다.
NVIDIA NVLink Fusion: 파트너들이 원하는 대로 시스템을 확장하라 수 있습니다. Hyperscaler가 반-맞춤형 컴퓨팅 솔루션을 생성할 수 있습니다.
이 기술은 기존 데이터 센터의 병목 현상을 해소하여 새로운 수준의 AI 규모와 특정 AI 워크로드에 맞춰 설계된 보다 유연하고 최적화된 시스템 설계를 가능하게 하는 것을 목표로 합니다.
이 놀라운 작업은 이제 누구나 쉽게 참여할 수 있는 유연성과 개방성을 갖추게 됐습니다.
Blackwell Everywhere: 구름 AI에서 기업 AI, 개인 AI에서 edge AI까지 "단일 구조"를 제공함을 설명합니다.
- DGX Spark: 현재 본격적으로 생산 중인 이 개발자용 개인용 AI 슈퍼컴퓨터는 "몇 주 안에" 출시될 예정입니다. DGX Spark 파트너로는 ASUS, Dell, Gigabyte, Lenovo, MSI 등이 있습니다.
- DGX Station: 벽면 콘센트에서 구동되는 최대 20페타플롭스의 성능을 갖춘 강력한 시스템입니다. 1조 개의 매개변수 모델을 실행할 수 있는 용량을 가져, "개인용 DGX 슈퍼컴퓨터"죠.
- NVIDIA RTX PRO Server
- NVIDIA AI data platform
물리적 AI: DeepMind, Disney와 협력하여 로봇 물리 훈련 엔진인 뉴턴을 개발했습니다.
- 산업용 물리 AI: 기업들이 전 세계적으로 5조 달러 규모의 공장을 건설하고 있습니다. 이러한 공장의 설계 최적화는 생산량 증대에 필수적입니다. TSMC, Foxconn, Wistron, Pegatron, Delta Electronics, Quanta, GIGABYTE 등 대만의 주요 제조업체들은 NVIDIA Omniverse를 활용하여 디지털 트윈을 구축하고 있습니다.
NVIDIA Constellation: 산타클라라 사무실이 우주로 발사되어 대만에 착륙하는 모습을 담은 극적인 영상을 선보였습니다. 새로운 대만 사무실입니다.
마지막으로 강조합니다: 대만 기업이 세상을 변화시켰죠! 생태계 파트너들에게 감사합니다. 기회는 특별하죠!!
우리는 한 구조로 AI 공장, AI 에이전트, 로봇을 지원하는 완전히 새로운 산업을 창조하고 있습니다.
Nvidia는 맞춤형 CPU와 AI 가속기를 자사 제품과 연결하는 NVLink Fusion을 발표
NVLink를 외부 칩 제조업체에 공개했습니다. 2025-May-19. Paul Alcon
NVLink 기술을 활용하여 맞춤형 rack scale 설계를 구축할 수 있도록 지원합니다. 시스템 설계자는 Nvidia 제품과 함께 타사 CPU 또는 가속기를 활용하여 새로운 가능성을 열 수 있습니다. 여러 파트너사가 이 기술을 자사 CPU에 통합할 예정입니다. NVLink Fusion은 맞춤형 AI 가속기로도 확장될 예정입니다.
NVLink는 AI workload에서 Nvidia의 우위를 확보하는 핵심 기술 중 하나입니다. AI server에서 GPU와 CPU 간의 통신 속도는 확장성을 가로막는 가장 큰 장벽 중 하나이며, 따라서 최고의 성능과 전력 효율성을 달성하는 데 큰 장애물이기 때문입니다. NVLink는 GPU와 GPU, CPU와 GPU를 직접 연결하는 독점적인 상호 연결 기술로, 기존 PCIe보다 훨씬 더 넓은 대역폭과 뛰어난 지연 시간을 제공하며, 대역폭이 최대 14배 더 높습니다.
NVLink는 AMD와 Broadcom과 같은 경쟁사들이 따라잡지 못했던 핵심적인 강점입니다.
하지만 NVLink는 독점 인터페이스이며, IBM 과의 초기 협력을 제외하면 Nvidia는 이 기술을 자사 칩을 사용하는 제품에만 국한해 왔습니다. 2022년 Nvidia는 업계 표준 Arm AMBA CHI 및 CXL 프로토콜을 활용하여 다른 기업들이 자사 칩에서 Nvidia GPU와의 통신을 용이하게 할 수 있도록 C2C(Chip-to-Chip) 기술을 공개했습니다. 그러나 더 광범위한 NVLink Fusion은 훨씬 더 광범위하여 NVLink 연결을 사용하는 rack-scale 구조에서 대규모 확장을 지원합니다.
NVLink Fusion은 이러한 패러다임을 변화시켜 Fujitsu와 Qualcomm이 자사 CPU와 NVLink를 활용하게 합니다. NVLink 기능은 chiplet에 통합됩니다. 또한 Mediatek, Marvell, Alchip과 같은 설계 업체의 ASIC과 같은 맞춤형 실리콘 가속기를 도입할 수 있게 합니다. Astera Labs는 특수 실리콘을 제공합니다. Cadence와 Synopsys 또한 강력한 설계 도구와 IP 세트를 제공합니다.
(생략 문단: Qualcomm, Fujitsu, Mission control software)
경쟁사인 Broadcom, AMD, Intel은 NVLink Fusion 생태계에서 제외되어 있습니다. 이들은 Ultra Accelerator Link(UALink) 컨소시엄에 참여하고 있습니다. UALink는 NVLink에 경쟁하는 목표입니다.
Acer, GIGABYTE, MSI와의 파트너십 확대로 DGX Spark와 DGX Station 개인용 AI 슈퍼컴퓨터의 가용성이 확대될 것입니다. 이를 통해 전 세계 개발자, 데이터 과학자, 연구자 생태계에 전례 없는 성능과 효율성을 제공할 수 있게 됩니다.
기업, 소프트웨어 공급업체, 정부 기관, 스타트업 및 연구 기관에는 데이터 크기, 독점 모델 개인 정보 보호 또는 확장성 속도에 영향을 주지 않으면서 데스크톱 폼 팩터에서 AI 서버의 성능과 기능을 제공할 수 있는 강력한 시스템이 필요합니다.
자율적인 의사 결정 및 작업 실행이 가능한 에이전트 AI 시스템 의 등장은 이러한 수요를 더욱 증폭시킵니다. NVIDIA Grace Blackwell 플랫폼 기반의 DGX Spark와 DGX Station을 통해 개발자는 데스크톱에서 데이터센터에 이르기까지 모델을 프로토타이핑하고, 미세 조정하고, 추론할 수 있습니다.
AI는 실리콘부터 소프트웨어까지 컴퓨팅 스택의 모든 계층에 혁명을 일으켰습니다. AI 혁명에 불을 지핀 DGX-1 시스템의 후손입니다.
DGX Spark, 혁신을 가속화합니다
NVIDIA GB10 Grace Blackwell Superchip를 탑재하고 있습니다. 최대 1페타플롭의 AI 컴퓨팅 성능과 128GB의 통합 메모리를 제공하며, DGX Cloud 또는 데이터센터 인프라로 모델을 원활하게 내보낼 수 있습니다.
강력한 성능과 기능을 컴팩트한 패키지로 제공하는 DGX Spark는 개발자, 연구자, 데이터 과학자 및 학생이 생성적 AI 의 경계를 넓히고 산업 전반의 워크로드를 가속화할 수 있도록 지원합니다.
DGX Station, AI 혁신 가속화
최대 20페타플롭의 AI 성능과 784GB의 통합 시스템 메모리를 제공하는 NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip을 탑재했습니다. 또한, 이 시스템에는 최대 800Gb/s의 네트워킹 속도를 지원하는 NVIDIA ConnectX-8 SuperNIC이 포함되어 고속 연결 및 다중 스테이션 확장이 가능합니다. (1명 혹은 7조각 사용)
개발자에게 친숙한 사용자 경험을 제공하기 위해 DGX Spark와 DGX Station은 산업용 AI 공장을 구동하는 sofltware 구조를 반영합니다. DGX 운영 체제를 사용하며, NVIDIA NIM microservice 및 NVIDIA Blueprints 에 대한 액세스를 포함합니다.
개발자는 PyTorch, Jupyter, Ollama와 같은 일반적인 도구를 사용하여 DGX Spark에서 프로토타입을 제작하고, 세부 조정하고, 추론을 수행하고, DGX Cloud나 가속화된 데이터 센터 또는 클라우드 인프라에 원활하게 배포할 수 있습니다.
DGX Spark는 7월부터 Acer, ASUS, Dell, Gigabyte, HP, Lenovo, MSI를 비롯한 글로벌 채널 파트너를 통해 판매될 예정입니다. DGX Spark 예약은 현재 가능합니다.
DGX Station은 올해 말 ASUS, Dell, Gigabyte, HP, MSI에서 출시될 예정입니다.
댓글
댓글 쓰기