輝達採用Groq技術推論加速器全面投產 加速AI運算效能

人工智能（AI）晶片巨擘 Nvidia (輝達) 近日正式宣佈，其整合了 Groq 技術的推論加速器已全面投入生產。此舉標誌著公司在AI硬體發展上的重要里程碑，並預期將顯著提升AI服務的運算效率。 回溯至去年12月，Nvidia 以高達200億美元的金額，成功收購了AI晶片初創公司 Groq 的核心技術，這宗交易是集團歷來最大規模的收購案。經過約八個月的技術整合與產品開發，應用 Groq 技術的推論加速器現已邁入商業化階段，準備投入市場應用。 據 Nvidia 聲稱，這款推論加速器最大的亮點在於其超低延遲特性，能夠大幅提升人工智能助理的響應速度。對於雲端服務供應商而言，這意味著可以為終端用户提供更即時、流暢的AI互動體驗。市場分析普遍認為，隨著AI服務效率的提升，雲端企業有望向客户收取更多的「Tokens」（詞元）費用，從而增加相關服務的盈利能力。 業界普遍關注，隨著全球對生成式AI應用需求日益殷切，高效能的推論運算能力成為推動AI發展的關鍵。Nvidia 透過此次 Groq 技術的商業化，不僅鞏固了其在AI晶片市場的領先地位，亦為日益龐大且複雜的AI工作負載，提供了更為強大的底層技術支援。