HBM과 AI 공장의 인기는 언제까지 어디까지 갈까?

이미지
  HBM의 인기는 언제까지 갈까? 우리 SK hynix의 주식 가격은 어디까지 올라갈까?   AI memory 넓게는 AI 반도체, GPU, AI 공장(factory), token factory는 진짜일까요? 아니면 거품 혹은 허풍일까요??   최원재 2025년 10월 12일 열흘 짜리 추석 휴가를 마치며 글을 써 봅니다. 추석 직전에 OpenAI Sam Altman이 한국에 와서 이재명 대통령을 만났습니다. 삼성 이재용 회장, SK 최태원 회장과 함께 만났구요, 큰 투자 계획을 발표했습니다.   [조선일보] 오픈AI와 손잡아... 700조 美 스타게이트 사업 참여 국내 데이터센터 2곳 건설도 추진 https://www.chosun.com/economy/industry-company/2025/10/01/6QMQJFARKNG67ANA5CDJFAHJ3Y/?outputType=amp 그리고나서 SK hynix 주식은 엄청! 올랐습니다.   저로서도 경험한 적이 없는 “가격 상승”이다보니~ 어리둥절 합니다.   이렇게 잘~ 되라고 열심히 회사에서 일 하고 있구요, 적절한 실력과 실체도 갖고 있다는 거 일고 있습니다. 그런데… 우리 회시 폭등, 그러면서 경쟁사인 삼성도 꽤 오르네요. ’거품이면 어쩌나? 거품이 (갑자기) 꺼지면 어쩌나??’ 걱정이 드는 건 사실입니다. 그런데… 저로서도 괜한 걱정인지 아닌지 잘 모르겠습니다.   지금 “인공 지능 AI boom” 파도 속에 있습니다. AI 공장의 vision을 외치는 회사 몇이 있습니다.   OpenAI의 Stargate가 대표이고, 그의 경쟁자라 할 만 한 건 Elon Musk의 xAI의 Colossus 가 있습니다.   최근 몇 년 동안에는 Hyperscaler라는 4회사 Amazon (AWS Web Service), Microsoft Azure, Google, Meta(Facebook) 간의 경쟁이 있었는데- 요즘은 Stargate 이후...

[CNU 충남대 특강] smart-phone 속 반도체

이미지
 충남대 반도체과에, 2024 작년에 이어 올해 2025도 특강을 했습니다.   작년엔 교수 부임 첫 학기였고, 6월에 했습니다.  [기억 DRAM과 저장 NAND, 그리고 AI 가속기]  https://kinkaist.blogspot.com/2024/06/memory-ai.html    올해는 10월 2일, 추석 연휴 시작하기 전에 했습니다. [산업체 최신 반도체 기술 동향 - 스마트폰 속 반도체]   작년과 같은 내용을 해도 된다고 요청 받기는 했습니다. 작년에는 3~4학년들이고 '융합'관점에서 '반도체'를 배우는 학생이었죠. 이번에는 "반도체과" 1학년 학생이라네요! 와우!!   신입생 60명을 오전 오후 분반으로 강의한다네요. 살짝 고민하고, 오전 10시반 수업과 오후 3시 수업을 모두 '특강'하기로 합니다.    어떤 주제로 어떤 이야기를 할까? 빠르게 고민했습니다. 어찌어찌- 나름의 도전을 해봅니다.   제가 참여한 [제3시선, With 최재붕 교수] 포노 사피엔스와 폰 그리고 반도체 Ep.1 & 2 를 활용하려고 마음 먹습니다.  https://news.skhynix.co.kr/thirds-eyes-choijaeboong-1/   https://news.skhynix.co.kr/thirds-eyes-choijaeboong-2/     내용도 좋고, 제가 참여한 글이고, 회사 newsroom에 공개이니~ 여러 모로 딱! 이네요.    글의 형식이 세 사람 '교수'와 저 포함 'SK hynix 구성원' 2명의 대화 라서~    3사람이 '연극 대본 읽는 방식'으로 내용을 읽어갔습니다.    최재붕 교수님 역할은 이종원 교수님이 했고, 저는 제가 했고, 다른 TL 역할은 학생 참여를 받아서 했습니다. 저로서는 여학우가 해주기를...

[논문 읽기] DeepSeek-V3 통찰 @ICSA25

이미지
A. 언론 보도에서 DeepSeek 논문을 보고, 열심히 읽어봅니다.    HBM을 설계하는 제가, 중국 startup의 논문을 "정독"하였습니다. 한국에서 반도체 설계하는 Engineer가 다른 나라 다른 분야의 논문을 읽었다고 볼 수도 있습니다. 다른 시각으로 살펴보면, 세계 top class 회사에서 일하는 사람이, 그 회사 제품의 고객이- 어떻게 제품을 사용하는지- 그래서 다음 제품은 어땠으면 좋겠는지를 설명한 걸 읽었습니다. 바로 앞 문장이 쉽게 이해되지 않을 수도 있겠네요. 다음 문단에서 설명해 보겠습니다.    저는 요즘 SK hynix에서 HBM을 설계하고 있습니다. AI memory의 대표 격이죠. 지금은 우리 회사가 지구 상에서 제일 잘 만드고 수익을 많이 내고 있습니다. Nvidia GPU가 그걸 가져다가 AI factory (인공 지능 공장)을 만듭니다.  B. 2025년 8월 14일 [중앙일보] 보도입니다.  https://www.joongang.co.kr/article/25358960   HBM 자립하려 영혼 쥐어짠다…한국 위협하는 中 '혼종테크'  (발췌)  SW·HW 똘똘 뭉쳐 ‘메모리 해결’ 나선 中    앞서 지난 6, 7월에는 딥시크 창업자 량원펑의 논문 2편이 세계 최고 수준 컴퓨터구조 학회 ‘ISCA’ 와 AI 학회 ‘ACL’ 에서 각각 채택됐다. ISCA에서는 딥시크 발표 세션이 열렸고, ACL에서는 최우수 논문상을 받았다. AI 모델을 개발하는 딥시크가 AI는 물론 HW 학회에서도 실력을 인정받은 것이다.   량원펑의 두 논문은 공통적으로 ‘구형 그래픽처리장치(GPU)와 메모리반도체 부족 상황에서 어떻게 하면 최대 성능을 내는가’에 대한 고심과 해법을 담았다. 특히 ISCA에 발표한 논문은 딥시크가 ‘GPU 커널(내부) 수준의 코딩을 했다’고 밝히고 있다. 일반적 AI 모델 연구자들이 접근하지 않는, GPU·HBM ...

과학전망대 @2Kx5K

이미지
 2025년 6월, 제가 사무실을 엽니다.  이름은 일단 "1^0 과학전망대 @2Kx5K"입니다.  '1^0 과학전망대'는 여기 blog (blogger = Google blog)의 이름이죠.  원 재 One Zero 로 비슷하죠, Digital의 두 숫자 One Zero의 의미를 담았습니다.  ^ 표시는 수학에서 "제곱" (2제곱 ^2, 3제곱 ^3, 10제곱 ^10) 표시할 때 사용하는 기호죠. 1과 0 사이를 그냥 붙이면 10으로 되기에... 연결을 위해 이걸 넣었습니다.  영어로는 caret이라 읽더군요.  2K x 5K 는~ 사무실 주소가 '이천시 (마장면) 오천리'라서 이천 2K, 오천 5K 로- 비슷하게 재미을 담아 봅니다.  주소는 마장타워입니다. 신도시에 있는 주차타워 1층이구요, 가까이에 마장도서관이 있습니다.  이곳에 사무실을 여는 이유는... 제가 보유하고 있는 상가인데- 1년째 '공실'이라서 입니다.  얼른 세입자가 들어오면 좋겠네요. 그 때까지- 시간 있을 때- '과학 전망대' 활동, 저의 취미 활동을 하려고 합니다.  그림을 2장 걸었습니다.  먼저 "School of Athen 아테네 학당" 입니다.  https://namu.wiki/w/아테네 학당   다음으로 "솔베이 회의 1927" 사진입니다.  https://namu.wiki/w/솔베이 회의   그리고 SK hynix 조립 Block 도 몇 가져다 둡니다.  책도 몇 권 비치합니다. 책장도 하나 장만했습니다.  책상과 의자는~ Costco에서 장만했습니다.  저와 이야기를 나누고 싶다면~ 오세요.  과학을 쭉~~ 전망하고 싶다면, 과학에 관해 이러 저러 이야기를 나누고 싶다면~ 오세요..  기술의 발전을~~~ 전망하고 싶어도~ 오세요.  반도체의 발전을~~~~ 이야기하고 싶습니다....

[Computex 2025] NVLink Fusion & DGX Spark

이미지
 어제 Computex 2025에서 Nvidia Jensen Hwang CEO가 기조연설을 했습니다. AI의 미래를 이야기했지요.  1.  https://www.youtube.com/live/TLzna9__DnI?si=tldgLgVoByXrRC2x Nvidia CEO Jensen Huang Keynote at Computex  2025  NVLink Fusion, semi-custom AI 인프라 구축 AI-First DGX 개인용 시스템: DGX Spark와 DGX Station  2. blog. https://blogs.nvidia.com/blog/computex-2025-jensen-huang/   Chrome 번역 활용하고 제가 손 봅니다.  Nvidia CEO, AI infra 산업의 가치가 '수조 $'에 달할 것으로 전망 AI 기반 미래에 대한 광범위한 비전을 발표하고 새로운 플랫폼과 파트너십을 선보였습니다.  May 18, 2025 by Brian Caulfield   전기. 인터넷. 이제 또 다른 주요 기술인 AI가 전 세계를 휩쓸 차례입니다.   Nvidia의 창립자이자 CEO인 젠슨 황은 월요일 타이베이 뮤직 센터에 가득 찬 관객석에서 Computex 2025의 개막을 알리며 무대에 올랐습니다. 그는 4,000명이 넘는 청중을 사로잡으며 모든 국가, 모든 산업, 모든 회사를 휩쓸 기술 혁명에 대한 비전을 제시했습니다.   AI는 이제 인프라이며, 인터넷이나 전기처럼 공장이 필요합니다. 이러한 공장을 바로 오늘날 우리가 짓는 것입니다.   이것들은 과거의 데이터 센터가 아닙니다."이 AI 데이터 센터들은, 굳이 표현하자면, 부적절합니다. 사실, AI 공장이죠. 에너지를 공급하면 엄청나게 가치 있는 무언가가 생성되는데, 이것을 token이라고 합니다. NVIDIA CUDA-X Everywhere:  파트너 로고로 가득 찬 거...

[번역] Moore의 법칙_1965

이미지
 오늘은 2025년 4월 19일입니다. Moore's Law 60주년이네요!   뜻 깊은 날을 맞이하여- 한글 번역합니다. 저로서는 "법칙"이야기는 정말 정말 많이 많이 들었는데- 원문을 한 줄 한 줄 읽어본 건- 이번 주가 처음입니다. SKHU 사내교육에서 언급을 듣고, 다음 날 생각나서 English 원문을 읽어봤습니다. 와우!!      Electronics, Volume 38, Number 8, April 19, 1965   그리 길지 않은 분량입니다. 4쪽 pdf에 적당한 그림 3개가 있습니다. graph 둘과 삽화 하나입니다.    Google 번역을 활용하고 제가 좀 수정 합니다. 적절한 강조 표시 도 합니다. 

[번역_SemiAnal] Huawei AI CloudMatrix 384

이미지
  SemiAnalysis에서 중국 가속기가 쓸만하다는 web 문서를 발행했습니다.  https://semianalysis.com/2025/04/16/huawei-ai-cloudmatrix-384-chinas-answer-to-nvidia-gb200-nvl72/     번역합니다. Chrome 번역을 활용하고 손을 봅니다.  Huawei AI CloudMatrix 384 – Nvidia GB200 NVL72에 대한 중국의 답변 풍부한 전력, 100% 광학, 0% 구리, 전력 비효율성, Watt당 2.6배 낮은 FLOP, chip당 14개 Transceiver, 선형 플러그형 광학(Linear Pluggable Optics)   / April 16, 2025  /  Dylan Patel, Daniel Nishball, Myron Xie, Patrick Zhou, Ivan Chiam, AJ Kourabi, Christopher Seifel and Doug O'Laughlin Table of Contents China has No Power Constraints, just Silicon Constraints How Many Ascend 910C and CloudMatrix 384 Can China Make? Huawei’s HBM Access Chinese Domestic Foundry Can Still Ramp CloudMatrix 384 System Architecture Similarities to DGX H100 NVL256 “Ranger” CloudMatrix384 Scale-Up Topology Estimates Subscriber Content Scale Up Optics and No Copper CloudMatrix 384 Scale Out Topology Estimates LPO Transceivers Chip Level System-level Power Budg...