百度（9888）正式開源文心大模型4.5系列 促進AI技術發展

隨著內地科技企業在人工智能（AI）領域的競爭日益激烈，百度（9888）於今日（30日）正式宣佈開源其文心大模型4.5系列，這一系列模型包括47B和3B激活參數的混合專家（MoE）模型，以及0.3B參數的稠密型模型，共計10款模型，並實現預訓練權重和推理代碼的完全開源。

根據百度的説法，文心大模型4.5系列的開源版本目前已經可以在飛槳星河社區、HuggingFace等平台上下載和部署使用。此外，開源模型的API服務也可在百度智能雲的千帆大模型平台上進行使用。

早在今年2月，百度就已經預告了文心大模型4.5系列的推出計劃，並表示將於6月30日起正式開源。該公司指出，文心大模型4.5開源系列在保持甚至提升文本任務性能的同時，顯著增強了多模態理解能力，這一優越性能主要得益於多模態混合專家模型的預訓練、高效的訓練推理框架以及針對不同模態的後訓練等關鍵技術。

此外，文心大模型4.5系列的開源模型均使用飛槳深度學習框架進行高效的訓練、推理和部署。在大語言模型的預訓練過程中，模型的FLOPs利用率（MFU）達到了47%。實驗結果顯示，這些模型在多個文本和多模態基準測試中達到了SOTA（State of the Art）水平，特別是在指令遵循、世界知識記憶、視覺理解和多模態推理任務上表現尤為突出。

文心大模型4.5系列的權重是根據Apache 2.0協議開源的，這使得學術研究和產業應用得以順利展開。此外，基於飛槳提供的開源產業級開發套件，這些模型廣泛兼容多種晶片，從而降低了模型的後訓練和部署門檻，進一步推動了AI技術的普及與應用。