微軟自研AI晶片
- 使用台積電五奈米製程
- 搭配HBM3 64GB，比想像中的少
- 一個Rack有八台sever，一個server 4個晶片
- Server使用水冷散熱
- 未來大趨勢，各家公司自己做AI晶片，讓這些公司有機會：
- 協助做CoWoS前後端設計
- ASIC公司有提供IP，但這些公司估值超級高，只能想像現在的貴不是貴
- 之後大家會搶CoWoS、HBM，台積電稼動會滿出來，可以去漲價
散熱
- 水冷在接下來兩三年變重要的角色，特別是Data Center
- 水冷解方是B100的官方預設
- 氣冷去解散熱有點不實際
- 浸沒式也會一起進行
HBM
- 未來漲價趨勢明顯
- 再次介紹HBM三大廠：三星、海力士、美光
- 台灣說有做HBM的都假的
- 在輝達B100出來之後，美光市占率會提高
- 就算消費性記憶體沒有起色，光Data Center就會帶來很好的營收成長
HBM價格估算：
- 1GB落在USD12~16塊、相較DDR貴了5~8倍
- 照癌大估算HBM3e，1GB賣到20~25塊之間
- HBM3一顆16G，16*15(抓上緣) = 240
- HBM3e一顆141G，141*25 = 3525
- H100用5顆80G，推估1200USD
- GH200用282G，推估7050USD
拜習會
- 沒看到AI税劇本，還是要等商務部有沒有同意輝達閹割版本
- 隱憂：如果還是沒過，輝達閹割產品割的更爛，可能讓中國失去購買的吸引力，改成使用國家自研晶片
Note
- H200 搭載Micron HBM3e 記憶體，記憶體容量高達141 GB
https://unikoshardware.com/2023/11/nvidia-h200-hopper-gpu-hbm3e-memory.html - 微軟宣布推出首款自研AI晶片「Maia」和雲端運算處理器「Cobalt」，兩款晶片均由台積電以5奈米生產，全球AI熱潮持續延燒，雲端服務供應商投入自研AI晶片成為趨勢
https://udn.com/news/story/7240/7579686 - Rack Unit是伺服器機架的尺寸單位
https://www.gigabyte.com/tw/Glossary/rack-unit - 透過連接兩個 GPU 晶片和 8 個 HBM 晶片，晶片尺寸為 H100 的 2 倍；與 H100 的 3D VC（Vapor Chamber）概念不同，B100 採液體冷卻作為散熱解決方案的可能性更大
https://technews.tw/2023/10/03/ai-supply-chain-b100-gpu/ - Micron 預期 Nvidia 將在 2Q24 推出新款 B100 AI 晶片，並表示很可能會與 Micron 的產品結合。
https://statementdog.com/news/1853
沒有留言:
張貼留言