新聞資訊
了解金山云最新資訊
2025-03-10 16:05:00
近日，金山云完成基于國產(chǎn)芯片的DeepSeek滿血版適配。同時，金山云星流訓(xùn)推平臺也已完成DeepSeek滿血版的部署，且支持多機部署實現(xiàn)分布式推理。
通過提供穩(wěn)定且強大的算力支持，金山云能助力模型充分發(fā)揮其性能優(yōu)勢，使得其在自然語言處理、智能問答、文本生成等多個領(lǐng)域表現(xiàn)優(yōu)異，這將為用戶帶來更強大、更高效的人工智能體驗。
裸金屬服務(wù)器部署步驟
金山云在搭載國產(chǎn)GPU的裸金屬機型上進行了適配，公司提供已預(yù)裝好包含DeepSeek滿血版和所有依賴環(huán)境的自定義鏡像，用戶只需在金山云裸金屬服務(wù)器控制臺選擇地域與機型、選定內(nèi)置DeepSeek滿血版的自定義鏡像、配置網(wǎng)絡(luò)與安全、設(shè)置基本信息并確認配置后，即可輕松完成部署。
1.金山云裸金屬服務(wù)器控制臺創(chuàng)建入口
2.金山云裸金屬服務(wù)器控制臺創(chuàng)建流程，選擇內(nèi)置DeepSeek滿血版的自定義鏡像創(chuàng)建
創(chuàng)建完成后，開發(fā)者和企業(yè)一鍵啟動模型就能立即投入使用，大大降低了模型的使用門檻。這不僅能讓更多開發(fā)者和企業(yè)快速享用DeepSeek滿血版的強大功能，還將加速人工智能項目的落地與應(yīng)用。
經(jīng)過測試和驗證，DeepSeek滿血版在搭載國產(chǎn)GPU的裸金屬機型上于多個領(lǐng)域都展現(xiàn)出了不凡的性能。在智能客服場景中，能夠快速理解用戶的復(fù)雜問題，并給出準確且人性化的回答。與其他同類模型相比，在語義理解的準確性和文本生成的流暢性方面都具有明顯優(yōu)勢，為各行業(yè)的智能化升級提供了有力支持。
金山云星流訓(xùn)推平臺多機部署步驟
為加速企業(yè)AI規(guī)?；涞?，金山云推出了模型在線服務(wù)功能，提供從模型部署到調(diào)用的服務(wù)能力。聚焦高效部署與分布式推理協(xié)同，該平臺可通過智能任務(wù)調(diào)度與跨節(jié)點并行計算，實現(xiàn)模型的高效推理。無需復(fù)雜配置，用戶即可在公有云環(huán)境構(gòu)建穩(wěn)定、高性價比的模型服務(wù)。
此前金山云星流訓(xùn)推平臺已支持DeepSeek蒸餾版的部署，現(xiàn)支持多機部署DeepSeek滿血版，可實現(xiàn)分布式推理。
多機部署步驟詳情如下：
1.進入算力平臺控制臺并創(chuàng)建資源池
2.進入模型在線服務(wù)導(dǎo)航頁
3.點擊新建，創(chuàng)建模型在線服務(wù)
a.選擇R1或V3模型，平臺默認勾選多機部署，用戶可自主配置服務(wù)副本數(shù)以及多機部署的節(jié)點數(shù)量
b.填寫基本信息、資源、網(wǎng)絡(luò)等配置
c.點擊確認，模型開始部署
*R1、V3模型部署所需時間較長，請耐心等待
4.調(diào)用模型服務(wù)。模型部署成功后，即可對模型進行調(diào)用，金山云當(dāng)前支持接口和WebUI兩種調(diào)用方式，相應(yīng)的調(diào)用操作流程如下：
a.接口調(diào)用，詳細步驟見
https://mp.weixin.qq.com/s/K8tt3b7DB30r0yz7Pq9vmA
b.WebUI調(diào)用，模型部署成功后點擊模型名稱進入模型概覽頁，點擊訪問WebUI即可通過WebUI形式實現(xiàn)模型調(diào)用
首次進入WebUI頁面需注冊用戶賬號，注冊完成后登錄即可使用界面實現(xiàn)調(diào)用。