摩爾線程攜手Deepseek，AI模型國產化迎來重大進展

DeepSeek V3和R1系列開源AI大模型在多語言理解、複雜推理任務中表現出卓越的性能。這些模型的部署對AI技術的普及和發展做出了巨大貢獻，同時也對開源社區起到了積極的作用。

許多科技巨頭已經開始支持和部署DeepSeek，並且國產硬件也在加速支持它的使用。摩爾線程是一家全功能GPU創新企業，他們快速地將深度學習蒸餾模型推理服務部署到了他們的產品上，使更多開發者可以基於他們的全功能GPU進行AI應用創新。

除了部署DeepSeek-R1蒸餾模型外，用戶還可以利用摩爾線程MTT S80和MTT S4000顯卡來實現對其的推理部署。實際上，在1月28日，一位B站UP主就已經手動完成了一項實踐實驗：

通過使用DeepSeek提供的蒸餾模型，用戶能夠將大規模模型的能力轉移到更小、更高效的版本上，並在國產GPU上實現高性能推理。

摩爾線程基於自研全功能GPU，採用開源與自研雙引擎方案來快速部署了DeepSeek蒸餾模型的推理服務。根據Ollama開源框架完成的DeepSeek-R1-Distill-Qwen-7B蒸餾模型在多種中文任務中表現出了出色的性能驗證了摩爾線程自研全功能GPU的通用性和CUDA兼容性。

通過摩爾線程自主研發的高性能推理引擎結合軟硬件協同優化技術，他們定製化的算子加速和內存管理顯著提升了模型計算效率和資源利用率。這一引擎不僅支持DeepSeek蒸餾模型的高效運行，還爲未來更多大規模模型部署提供了可靠的技術保障。

最後，摩爾線程即將開放自主設計的誇娥（KUAE）GPU智算集羣，該集羣將全面支持DeepSeek V3、R1模型以及新一代蒸餾模型的分佈式部署。誇娥集羣集成了先進的推理技術和分佈式計算框架，確保大規模模型的高效穩定運行，並助力開發者快速實現業務落地。