《楠楠自语》成日听人吹风：「依家啲AI模型又做蒸馏(Distillation)、又做优化，根本唔使以前咁大算力都行到啦，晶片仲边有人要？半导体爆炸喇！」

　　前几日，调研机构SemiAnalysis出咗份报告，指新一代Vera Rubin伺服器会将记忆体容量砍半，即刻引发恐慌，搞到美股成个半导体板块全线插水。

　　但我可以直接话你知结论：软体帮手悭算力，唔会整死硬件需求。悭出嚟嘅算力空间，一瞬间就会被全新、更复杂嘅需求塞满。
　
*台北现场直击：机柜密度癫到你唔信*
　
　　笔者早排去咗台北行GTC同Computex，虽然自己唔系咩科技专家，好多嘢都系睇YouTube或者跟身边两位拍档边学边睇，但喺现场睇完一大堆server rack（机柜）同presentation之后，用最layman嘅角度去理解，依家啲主机分工已经极度明确。
　
　　一个rack专攻GPU，其他就放埋CPU、DRAM同NVLink。成个趋势就是体积愈来愈小，晶片愈塞愈多。
　
　　笔者喺GTC现场见到个CPU rack恐怖到极点：一个模组摆4粒CPU，每粒CPU隔篱排足32条RAM，而成个机柜足足塞咗256粒CPU。至于入面到底插咗几多条RAM？大家心照，自己揿计数机都知数目有几惊人。
　
*算力一悭出嚟，一秒钟就会被新怪兽吞噬*
　
　　呢两年嚟，全球对算力嘅渴求基本上系一个无底深潭。软体优化帮工程师悭咗算力？腾出嚟嘅资源，大家绝对唔会储埋佢，而系即刻抢住用嚟挑战更极限嘅玩法：
　
　　－模型无上限咁谷大：悭番嚟嘅算力，研发团队会一秒钟攞去跑更高级、参数翻几倍嘅神经网络，务求做到最全能嘅AI。
　
　　－多模态与Reasoning（连续思考）：依家净系玩文字对答已经唔够，市场要嘅系AI即时生成高清片、行最顶级嘅自动驾驶，甚至乎同时指引几十个AI Agent自己开会、debug兼执掂成套system。呢啲超大型任务，每行一步都系吞吐紧海量算力。
　
　　呢个现象喺经济学上有个好经典嘅概念，叫「杰文斯悖论(Jevons Paradox)」：当一样资源嘅使用效率提升、成本变平，人类唔会用少咗，反而会因为「太抵玩」而全面报复性消费，用得仲疯狂。
　
*悭算力绝对唔系看空半导体嘅藉口*
　
　　千祈唔好一厢情愿以为软体进步，硬件厂就要乞食。事实上，NVIDIA老黄话：「完全睇唔到短缺结束嘅尽头。」
　
　　就算硬件架构点样微调、点样帮个系统「减肥」，现实系成条AI产业链－－TSMC晶圆代工、CoWoS先进封装，到高频宽记忆体(HBM)，通通都处于供不应求嘅状态：
　
　　－入场门槛低咗，全人类入局一齐抢：软体优化将算力门槛拉低，本来得BigTech巨头玩得起嘅高级AI，依家连Startup、中小企，甚至边缘设备（例如手机、AI PC、电动车、全屋智能家电）全部都行得到。当每部机都要塞块AI晶片入去，呢个普及化嘅市场胃口大到你无法想象。
　
　　－短缺潮起码行多几年：老黄放晒话，无论系超级电脑、AI PC或智能机器人，全球嘅Base建设需求都行得好急，成个半导体供应链断货嘅状态，起码仲要直路行多几年。
　
　　当然，股票短期内嘅升跌，未必完全百分百反映基本面，市场有时对硬件嘅预期或者真系炒得太高、太急。但起码从科技发展嘅本质嚟看，短期内成个行业完全无任何逆转或者见顶嘅迹象。
　
　　出面有风吹草动就当系坏消息，周围听埋啲「AI就嚟爆破」嘅鬼故，真系认真便输了。《方德证券高级分析师　莫灏楠》
　
*《经济通》所刊的署名及/或不署名文章，相关内容属作者个人意见，并不代表《经济通》立场，《经济通》所扮演的角色是提供一个自由言论平台。