小米MiMo大模型推理速度破紀錄 首個通用GPU萬億參數模型衝破1000 tokens/s

小米集團(01810)昨日晚間正式推出 Xiaomi MiMo-V2.5-Pro-UltraSpeed 模式，標誌著該公司在人工智能大模型領域取得重大突破。市場消息指，此模式成為全球首個在通用 GPU（繪圖處理器）上，將萬億參數模型推理速度突破每秒1000 tokens（符記）的先驅，刷新了旗艦模型在全球推理速度方面的最快紀錄。 據小米集團介紹，由即日起至6月23日，MiMo-V2-Pro-UltraSpeed 模式將採申請制形式限時開放。獲批用户可透過 API（應用程式介面）體驗這項服務。與此同時，MiMo-V2.5-Pro-UltraSpeed API 亦同步上線，並以限時體驗價推出，其定價為 MiMo-V2.5-Pro 的三倍，但能提供約十倍的輸出速度提升。值得注意的是，該服務目前僅支援 API 體驗，暫不支援 Token Plan（符記方案）。 是次技術躍進得益於小米對模型推理系統進行了全鏈路工程優化。在不犧牲模型既有能力的前提下，Xiaomi MiMo-V2.5-Pro-UltraSpeed 成功將推理速度提升至1000 tokens/s，且無需訂製晶片，僅憑通用 GPU 即可實現。業界分析普遍認為，這項成就打破了長期以來「快、強、通用 GPU 無法兼得」的技術瓶頸，亦顯示小米 MiMo 大模型在推理工程能力方面已晉身全球第一梯隊。 小米集團指出，Xiaomi MiMo-V2.5-Pro-UltraSpeed 的面世，標誌著旗艦大模型正式邁向更高推理效率階段，並為未來更廣泛的即時應用場景，如智能編程、Agent 協同及高頻量化交易等，提供更多可能性。隨著萬億參數大模型的推理速度達至 1000 tokens/s，其處理複雜任務的能力已接近即時水平，這將逐步降低相關智能應用的門檻。 事實上，自4月底以來，小米 AI 在模型能力、推理成本及推理效率三大維度上已接連取得重要突破。回顧4月23日，MiMo-V2.5-Pro 在全球權威大模型測評平台 Artificial Analysis 上，於綜合智能指數及 Agent 指數兩方面均取得全球開源模型並列第一的佳績。隨後於5月27日，Xiaomi MiMo-V2.5 系列模型 API 因技術優化而宣佈最高降價達99%，同時亦調整了其 Token Plan 計費體系。而今次於6月8日，MiMo-V2.5-Pro-UltraSpeed 再度以 1000 tokens/s 的速度，創下萬億參數旗艦模型推理速度的新紀錄，進一步鞏固了小米在人工智能領域的領先地位。