AI算力瓶頸轉移至頻寬 物理限制挑戰大型模型效能

近年來，人工智能（AI）技術發展一日千里，大型語言模型（LLMs）如ChatGPT、DeepSeek、Gemini及Claude等相繼問世，引發市場對AI算力需求激增的關注。然而，業界有聲音指出，AI發展的核心瓶頸正逐漸從單純的運算能力（算力）轉移至數據傳輸的頻寬。 以目前市場領先的輝達（Nvidia）H100 GPU為例，其單張造價高達3萬美元，每秒可執行數千萬億次浮點運算。儘管性能卓越，據市場觀察，這些高效能GPU在實際運作中卻有大部分時間處於閒置狀態。這並非管理上的失誤，而是受到物理學定律的嚴格制約。 投資者日益關注，當一個AI大型語言模型需動用數萬張GPU進行跨機架協同運算時，數據傳輸的距離便會從微小的公分級躍升至數米。在此過程中，承載這些海量訊號的，仍是數十年來沿用至今、印刷電路板上的傳統銅線。儘管銅線在低頻時代表現堪用，但在AI應用所需的超高頻率環境下，其致命的物理缺陷——「集膚效應」（Skin Effect）便會顯現，嚴重影響數據傳輸效率。 這項物理限制，迫使業界重新審視當前AI基礎設施的設計，並探討突破頻寬瓶頸的解決方案，以確保AI運算資源能得到更充分的利用。在技術世代交替的混沌局面中，這也為市場提供了新的視角去觀察相關產業的發展趨勢。文章引述分析師徐立言的觀點指出，在當前市場變局中，古老的投資智慧仍具參考價值。