DeepSeek的應(yīng)用與部署

DeepSeek應(yīng)用與部署山東大學(xué)經(jīng)濟(jì)學(xué)院教授山東大學(xué)國(guó)家治理研究院研究員李鐵崗聽(tīng)聽(tīng)真我數(shù)字人講DeepSeekAIGC發(fā)展歷程AIGC2014-2024自然語(yǔ)言處理與語(yǔ)言模型大語(yǔ)言模型LLM：2018—2024DeepSeek介紹DeepSeek：2023—DeepSeek：技術(shù)創(chuàng)新——模型架構(gòu)|V2（Multi-Head

Latent

Attention）DeepSeek：技術(shù)創(chuàng)新—模型架構(gòu)|V3DeepSeek：技術(shù)創(chuàng)新—推理模型|RL強(qiáng)化學(xué)習(xí)讓智能體（Agent）在環(huán)境（Environment）中不斷嘗試、學(xué)習(xí)，并優(yōu)化自己的策略（Policy），最終獲得最大化的獎(jiǎng)勵(lì)（Reward）。PPO：ProximalPolicyOptimizationGRPO：GroupRelativePolicyOptimizationDeepSeek應(yīng)用場(chǎng)景DeepSeek的能力層級(jí)1.基礎(chǔ)能力層多模態(tài)數(shù)據(jù)融合與結(jié)構(gòu)化理解，包括跨模態(tài)語(yǔ)義對(duì)齊（文本、圖像、音頻、視頻、代碼、傳感器數(shù)據(jù)統(tǒng)一語(yǔ)義）和動(dòng)態(tài)數(shù)據(jù)治理（解決數(shù)據(jù)缺失、噪音干擾、概念飄逸等），支持200多種數(shù)據(jù)格式自動(dòng)解析。

2.中級(jí)能力層領(lǐng)域問(wèn)題建模與復(fù)雜推理，包括領(lǐng)域自適應(yīng)學(xué)習(xí)（建立醫(yī)、教育、金融垂直應(yīng)用于模型）、因果推理引擎（建立因果圖模型）和多目標(biāo)優(yōu)化決策（求解帕累托最有解）。

3.高級(jí)能力層復(fù)雜系統(tǒng)建模與自主決策，包括數(shù)字孿生仿真系統(tǒng)（構(gòu)建物理于數(shù)字融合虛擬環(huán)境模擬天氣等）、多智能體協(xié)同優(yōu)化（將每個(gè)個(gè)體作為智能體通過(guò)聯(lián)邦學(xué)習(xí)模擬群體行為）和元認(rèn)知調(diào)控機(jī)制（實(shí)施監(jiān)控自身決策、動(dòng)態(tài)分配資源、自動(dòng)觸發(fā)行為）。

4.終極能力層自主進(jìn)化與創(chuàng)造性突破，包括概念空間探索（通過(guò)對(duì)抗網(wǎng)絡(luò)探索新合金成分等）、范式轉(zhuǎn)移預(yù)警（監(jiān)控跨領(lǐng)域知識(shí)流、識(shí)別技術(shù)革命前兆）和自編程能力（自動(dòng)模塊設(shè)計(jì)、代碼編寫(xiě)、測(cè)試用例）。DeepseekV3DeepseekR1Deepseekr1鞅的證明Deepseekr1

Roy安全準(zhǔn)則組合模型推理Deepseekr1推理玻尿酸配方DeepSeek提示詞工程提示詞工程Deepseek十類(lèi)提示詞1.內(nèi)容生成類(lèi)：文本生成、代碼生成、創(chuàng)意生成和數(shù)據(jù)模擬。

2.信息處理類(lèi)：文本摘要、信息抽取、情感分析和多語(yǔ)言翻譯。

3.對(duì)話交互類(lèi)：角色扮演、多輪對(duì)話、反問(wèn)引導(dǎo)。

4.技能應(yīng)用類(lèi)：數(shù)學(xué)計(jì)算、代碼解釋、邏輯推理。

5.個(gè)性化定制類(lèi)：風(fēng)格遷移、知識(shí)庫(kù)綁定、偏好記憶。6.系統(tǒng)操作類(lèi)：模式切換、資源優(yōu)化、記憶管理。7.知識(shí)查詢(xún)類(lèi)：事實(shí)核查、概念解釋、溯源檢索。8.教育與研究類(lèi)：題目生成、論文潤(rùn)色、實(shí)驗(yàn)設(shè)計(jì)。9.多模態(tài)處理類(lèi)：圖文互譯、表格解析、視頻腳本。10.倫理與安全類(lèi)：內(nèi)容審核、價(jià)值觀對(duì)齊、風(fēng)險(xiǎn)預(yù)警。DeepSeek部署方案Deepseek部署全線圖本地部署蒸餾小模型第三方UI客戶(hù)管接入服務(wù)云端網(wǎng)站接入服務(wù)移動(dòng)手機(jī)應(yīng)用DeepseekDeepseek模型及蒸餾模型API接入API及蒸餾模型API及蒸餾模型ChatboxAPI及網(wǎng)絡(luò)調(diào)用本地網(wǎng)絡(luò)調(diào)用ChatboxAPI及網(wǎng)絡(luò)調(diào)用DeepseeK替代部署方案本地部署蒸餾小模型：可通過(guò)ollama平臺(tái)、LMStudio平臺(tái)快速本地部署基于Llama和Qwen蒸餾的DeepSeek-R1推理模型，涵蓋多種不同參數(shù)規(guī)模，適合想在本地運(yùn)行模型的用戶(hù)。第三方UI客戶(hù)管接入服務(wù)：可通過(guò)AnythingLLM、CherryStudio、Chatbox等選擇API接入。秘塔AI搜索：接入滿(mǎn)血版DeepSeek-R1推理模型，無(wú)廣告且搜索結(jié)果直達(dá)。以學(xué)習(xí)JDK21新特性為例，能詳細(xì)給出學(xué)習(xí)計(jì)劃，包括快速預(yù)覽、深入學(xué)習(xí)核心特性、實(shí)戰(zhàn)與總結(jié)等階段。硅基流動(dòng)：注冊(cè)即送2000萬(wàn)Tokens，提供多個(gè)基于DeepSeek-R1蒸餾訓(xùn)練的模型，如DeepSeek-R1-Distill-Llama-70B等，在推理能力上表現(xiàn)出色。阿里云百煉：提供多個(gè)DeepSeek系列模型，如DeepSeek-V3、DeepSeek-R1-Distill-Qwen-1.5B等，部分限時(shí)免費(fèi)，涵蓋文本生成等功能。百度智能云：千帆ModelBuilder全面支持DeepSeek-R1/V3調(diào)用，且限時(shí)免費(fèi)，其模型在百科知識(shí)、數(shù)學(xué)推理等任務(wù)表現(xiàn)突出。英偉達(dá)：可通過(guò)特定接口調(diào)用DeepSeek-R1

671B全量模型，獲取APIKey后能進(jìn)行相關(guān)操作。DeepSeek

API調(diào)用API調(diào)用方法DeepSeekAPImodel='deepseek-chat'即可調(diào)用DeepSeek-V3model='deepseek-reasoner'，即可調(diào)用DeepSeek-R1。Token用量計(jì)算token是模型用來(lái)表示自然語(yǔ)言文本的基本單位，也是我們的計(jì)費(fèi)單元，可以直觀的理解為“字”或“詞”；通常1個(gè)中文詞語(yǔ)、1個(gè)英文單詞、1個(gè)數(shù)字或1個(gè)符號(hào)計(jì)為1個(gè)token。一般情況下模型中token和字?jǐn)?shù)的換算比例大致如下：1個(gè)英文字符≈0.3個(gè)token。1個(gè)中文字符≈0.6個(gè)token。但因?yàn)椴煌Ｐ偷姆衷~不同，所以換算比例也存在差異，每一次實(shí)際處理token數(shù)量以模型返回為準(zhǔn)，您可以從返回結(jié)果的usage中查看。阿里云部署Deepseek以DeepSeek-R1滿(mǎn)血版為例進(jìn)行演示，通過(guò)百煉模型服務(wù)進(jìn)行DeepSeek開(kāi)源模型調(diào)用，可以根據(jù)實(shí)際需求選擇其他參數(shù)規(guī)模的DeepSeek模型。百煉平臺(tái)的API提供標(biāo)準(zhǔn)化接口，無(wú)需自行搭建模型服務(wù)基礎(chǔ)設(shè)施，且具備負(fù)載均衡和自動(dòng)擴(kuò)縮容機(jī)制，保障API調(diào)用穩(wěn)定性。搭配Chatbox可視化界面客戶(hù)端，進(jìn)一步簡(jiǎn)化了調(diào)用流程，無(wú)需在命令行中操作，通過(guò)圖形化界面即可輕松配置和使用DeepSeek模型。https://chatboxai.app/zh#downloadDeepSeekDeepSeekDeepSeek-R1-Ditill-Qwen-1.5BDeepSeek-R1-Ditill-Qwen-7BDeepSeek-R1-Ditill-Qwen-14BDeepSeek-R1-Ditill-Qwen-32BDeepSeek-R1-Ditill-Ollama-7BDeepSeek-R1-Distill-Ollama-7BDeepSeek-R1DeepSeek-V3騰訊云部署流程CloudStudio：登錄騰訊云官網(wǎng)，進(jìn)入CloudStudio，可一鍵部署，即開(kāi)即用，能快速體驗(yàn)7B以下DeepSeek-R1蒸餾模型。云原生構(gòu)建：登錄騰訊云，云原生構(gòu)建相關(guān)服務(wù)，一鍵體驗(yàn)DeepSeek，無(wú)需等待下載，支持1.5b/7b/8b/14b/32b多款模型。TI平臺(tái)：登錄騰訊云TI平臺(tái)，提供專(zhuān)屬算力、多種尺寸模型、0代碼模型部署等功能。HAI：登錄騰訊云HAI控制臺(tái)，新建DeepSeek-R1應(yīng)用，創(chuàng)建完成后可通過(guò)站內(nèi)信獲取密碼，選擇可視化界面（ChatbotUI）或命令行（JupyterLab）直接調(diào)用DeepSeek-R1模型。云應(yīng)用：登錄騰訊云找到云應(yīng)用服務(wù)，直接購(gòu)買(mǎi)成品DeepSeek應(yīng)用，或利用云應(yīng)用定制化軟件功能，快速部署AI應(yīng)用或定制傳統(tǒng)軟件。搜索方案：大模型知識(shí)引擎：注冊(cè)并登錄騰訊云，在控制臺(tái)搜索“大模型知識(shí)引擎”體驗(yàn)”開(kāi)通服務(wù)。新建應(yīng)用并配置基礎(chǔ)信息，選擇DeepSeek-R1/V3模型，即可在右側(cè)調(diào)試窗口提問(wèn)搜索。API接口：申請(qǐng)騰訊云DeepSeekAPI接口，獲取APIKey后，可在自己的應(yīng)用或程序中通過(guò)調(diào)用API來(lái)實(shí)現(xiàn)DeepSeek模型的搜索功能。騰訊云API調(diào)用開(kāi)發(fā)者首選，DeepSeek部署簡(jiǎn)單、直觀、高效！HAI提供GPU算力和ollama環(huán)境，支持1.5B,7B,8B,32B等多個(gè)DeepSeek-R1蒸餾模型。企業(yè)級(jí)首選，DeepSeek部署穩(wěn)定、安全、易用！騰訊云智能全棧AI服務(wù)上架DeepSeek系列模型創(chuàng)建應(yīng)用華為云+silconflow通過(guò)創(chuàng)建APIkey調(diào)用邀請(qǐng)碼：z0sI0urY邀請(qǐng)鏈接：/i/z0sI0urY華為云模型微調(diào)對(duì)話模型微調(diào)生圖模型微調(diào)模型微調(diào)工程DeepSeek：推理模型|推理能力蒸餾模型蒸餾工程老師模型學(xué)生模型DeepSeek蒸餾模型老師模型和學(xué)生模型小模型：相當(dāng)于一枚小學(xué)生，知識(shí)面非常有限，但是勝在沒(méi)教授那么大譜，給個(gè)板凳坐著就夠了（部署成本低，推理成本低）。大模型：像一位見(jiàn)多識(shí)廣、知識(shí)儲(chǔ)備龐大的“大教授”，無(wú)所不知，但是“供養(yǎng)”他很貴。什么是模型蒸餾？“模型蒸餾”就是把大模型學(xué)到的本領(lǐng)，用“濃縮”的方式教給小模型的過(guò)程，在保證一定精度的同時(shí)，大幅降低運(yùn)算成本和硬件要求。模型蒸餾蒸餾是一種機(jī)器學(xué)習(xí)技術(shù)，其中較小的模型（“學(xué)生模型”）被訓(xùn)練來(lái)模仿較大、預(yù)訓(xùn)練模型（“教師模型”）的行為。1.數(shù)據(jù)蒸餾在數(shù)據(jù)蒸餾中，教師模型生成合成數(shù)據(jù)或偽標(biāo)簽，然后這些數(shù)據(jù)用于訓(xùn)練學(xué)生模型。

2.Logits蒸餾在logits蒸餾中，學(xué)生模型被訓(xùn)練來(lái)匹配教師模型的logits，而不僅僅是最終的預(yù)測(cè)。這種方法保留了更多關(guān)于教師模型置信水平和決策過(guò)程的信息。

3.特征蒸餾特征蒸餾涉及將教師模型中間層的知識(shí)轉(zhuǎn)移到學(xué)生模型中。通過(guò)對(duì)齊兩個(gè)模型的隱藏表示，學(xué)生模型可以學(xué)習(xí)到更豐富和更抽象的特征。蒸餾、微調(diào)、RAG蒸餾：是學(xué)生通過(guò)模仿老師的解題思路，達(dá)到和老師相似的知識(shí)水平。微調(diào)：又叫精調(diào)，相當(dāng)于學(xué)生意識(shí)到自己某門(mén)課有短板，然后自己找參考書(shū)惡補(bǔ)了一下，從而補(bǔ)上短板。蒸餾、微調(diào)、RAGRAG：直譯過(guò)來(lái)叫做“檢索增強(qiáng)生成”。相當(dāng)于這題我不會(huì)，但是我有“小抄”，我回答的時(shí)候，就看一眼小抄，然后再綜合我腦子里的已有知識(shí)，進(jìn)行回答。DeepSeek本地部署1.GPU要求推薦NVIDIA顯卡（RTX3090/4090/A100等）顯存要求：■7B模型：至少16GB顯存■13B/20B模型：至少24GB顯存■70B模型：需多卡并行（如2xA100）支持CUDA11.7+和cuDNN8.5+DeepSeek本地部署-硬件環(huán)境準(zhǔn)備2.系統(tǒng)要求Linux（Ubuntu20.04+）或WindowsWSL2Python3.8+，推薦使用Anaconda/Miniconda管理環(huán)境方法1：使用HuggingFaceTransformers方法2：使用vLLM加速推理方法3：Docker部署DeepSeek本地部署-部署辦法AnythingLLM接入下載安裝?打開(kāi)官網(wǎng)，根據(jù)自己的系統(tǒng)選擇下載對(duì)應(yīng)的版本。?安裝文件，按照安裝向?qū)У奶崾具M(jìn)行操作，默認(rèn)路徑安裝或修改默認(rèn)安裝路徑都可以。安裝完成后，點(diǎn)擊完成自動(dòng)跳轉(zhuǎn)到AnythingLLM界面。模型配置?LLMSelection（大語(yǔ)言模型選擇）：選擇Ollama，如果本地已通過(guò)Ollama部署了DeepSeek等模型，AnythingLLM會(huì)自動(dòng)檢測(cè)。這意味著模型和聊天記錄僅在運(yùn)行Ollama模型的機(jī)器上可訪問(wèn)，保證了數(shù)據(jù)的安全性和隱私性。?EmbeddingPreference（嵌入偏好）：使用AnythingLLMEmbedder嵌入工具，文檔文本會(huì)在AnythingLLM的實(shí)例上私密嵌入，文本數(shù)據(jù)的處理和轉(zhuǎn)換在本地進(jìn)行，不會(huì)泄露給第三方。?VectorDatabase（向量數(shù)據(jù)庫(kù)）：使用LanceDB作為向量數(shù)據(jù)庫(kù)，向量和文檔文本都存儲(chǔ)在AnythingLLM實(shí)例上，進(jìn)一步確保數(shù)據(jù)的私密性和安全性。接入DeepSeek模型?通過(guò)Ollama接入：先在本地通過(guò)Ollama部署DeepSeek模型，然后在AnythingLLM中選擇Ollama作為語(yǔ)言模型推理后端，AnythingLLM會(huì)自動(dòng)連接到本地Ollama服務(wù)中的DeepSeek模型。?通過(guò)DeepSeekR1API接入：在AnythingLLM工作區(qū)右側(cè)點(diǎn)擊設(shè)置，選擇聊天設(shè)置，更改LLM模型為DeepSeek，輸入APIKey并選擇DeepSeekR1模型，點(diǎn)擊更新工作區(qū)即可。搭建本地知識(shí)庫(kù)?在AnythingLLM左側(cè)工作區(qū)找到上傳按鈕，選中要上傳的文檔，點(diǎn)擊移動(dòng)到工作區(qū)，再點(diǎn)擊“SaveandEmbed”，對(duì)文檔進(jìn)行切分和詞向量化。?完成后，點(diǎn)擊圖釘按鈕，將文檔設(shè)置為當(dāng)前對(duì)話的背景文檔，即可在聊天窗口基于上傳的文檔內(nèi)容與模型進(jìn)行對(duì)話。本地部署方法Ollama+DeepseekLMStudio+DeepSeekAnythingLM+Ollama+Deepseek+向量模型（EmbessingModel）Dify+Ollama+Deepseek+向量模型（EmbessingModel）OllamaLMStudioDeepSeek模型下載模型OllamaLMStudioDeepSeek模型下載模型AnythingLMDify調(diào)用模型Ollama下載Ollama運(yùn)行Ollama運(yùn)行Ollamarundeepseek-r1LMStudio本地部署前期準(zhǔn)備：確保設(shè)備滿(mǎn)足一定硬件要求，顯卡需GTX1060（6GB）及以上，推薦RTX3060及以上；內(nèi)存8GB及以上，推薦16GB及更高；C盤(pán)剩余20GB空間，建議使用NVMe固態(tài)硬盤(pán)。安裝LMStudio客戶(hù)端：在官網(wǎng)lmstudio.ai下載對(duì)應(yīng)操作系統(tǒng)的安裝包，雙擊運(yùn)行并按提示完成安裝。啟動(dòng)后，點(diǎn)擊右下角設(shè)置圖標(biāo)將語(yǔ)言改為簡(jiǎn)體中文。加載模型：自行下載獲取模型，下載到本地后，點(diǎn)擊左上方文件夾圖標(biāo)選擇模型目錄導(dǎo)入；若不會(huì)找模型，可在LMStudio的設(shè)置里，勾選“UseLMStudio'sHuggingFace”，再點(diǎn)擊左上方搜索圖標(biāo)搜索deepseek選擇模型。注意參數(shù)規(guī)模不同，性能和硬件需求有差異。例如，1.5B適合體驗(yàn)嘗鮮，7B適合普通創(chuàng)作及開(kāi)發(fā)測(cè)試，8B適合對(duì)內(nèi)容要求更高的場(chǎng)景，14B適合專(zhuān)業(yè)及深度內(nèi)容創(chuàng)作。LMStudio+DeepSeekLMStudio可以通過(guò)huggaface下載Deepseek各種蒸餾模型（GGUF）DeepSeek

UI客戶(hù)端使用AnythingLM+Ollama+DeepseekRAG數(shù)據(jù)庫(kù)工程LLM首選項(xiàng)向量數(shù)據(jù)庫(kù)Embedder首選項(xiàng)文本分割RAG中的Embedding模型Embedding模型貫穿RAG流程多環(huán)節(jié)CherryLM+DeepSeekAPI大模型智能體工程五大AIAgent多智能體開(kāi)發(fā)框架微軟AutoGen：Github地址：/microsoft/autogenCrewAIGithub地址：/crewAIInc/crewAILangGraph：Github地址：/langchain-ai/langgraphOpenAISwarm：Github地址：/openai/swarm微軟Magentic-OneGithub地址：/microsoft/autogen/tree/main/python/packages/autogen-magentic-oneDeepSeek業(yè)務(wù)流應(yīng)用DeepSeek業(yè)務(wù)流應(yīng)用Coze+DeepseekAPI（DeepseepR1）業(yè)務(wù)流Dify+DeepseekAPI搭建本地知識(shí)庫(kù)Langchain+DeepseekAPI業(yè)務(wù)流工程2025七款RAG1.R2R：官網(wǎng)：https://r2r-docs.sciphi.ai/功能：用于開(kāi)發(fā)本地RAG應(yīng)用程序，支持多模態(tài)內(nèi)容攝取、混合搜索、知識(shí)圖譜構(gòu)建、GraphRAG，具備用戶(hù)管理、可觀測(cè)性、配置及可視化交互等功能，適用于處理動(dòng)態(tài)數(shù)據(jù)和復(fù)雜實(shí)體關(guān)系的應(yīng)用程序。2.Cognita：官網(wǎng)：/功能：模塊化框架，提供定制化管道，用于構(gòu)建可擴(kuò)展且生產(chǎn)就緒的RAG應(yīng)用程序，適合企業(yè)大規(guī)模AI應(yīng)用。3.LLMWare：官網(wǎng)：https://llmware.ai/功能：提供統(tǒng)一框架構(gòu)建基于LLM的應(yīng)用，如RAG和代理，包含RAGPipeline和50+小型專(zhuān)用模型，適用于定制特定領(lǐng)域解決方案。4.LangChain：官網(wǎng)：/?功能：構(gòu)建于大語(yǔ)言模型之上，通過(guò)鏈?zhǔn)秸{(diào)用組合組件，簡(jiǎn)化開(kāi)發(fā)者與語(yǔ)言模型交互，可用于構(gòu)建問(wèn)答系統(tǒng)等，支持與多種數(shù)據(jù)源集成。5.deepset的Haystack官網(wǎng)：https://haystack.deepset.ai/、功能：用于構(gòu)建基于NLP的搜索和問(wèn)答系統(tǒng)，提供模塊化架構(gòu)、多模型支持、高效檢索、問(wèn)答功能，可擴(kuò)展性強(qiáng)，適用于問(wèn)答系統(tǒng)和文檔檢索應(yīng)用。6.LlamaIndex官網(wǎng)：https://docs.llamaindex.ai/?功能：簡(jiǎn)化外部知識(shí)庫(kù)與LLM的集成，支持動(dòng)態(tài)數(shù)據(jù)攝取和自定義索引，可與多種預(yù)訓(xùn)練語(yǔ)言模型配合使用。7.txtaiGitHub主頁(yè)：/neuml/txtai功能：一體化嵌入數(shù)據(jù)庫(kù)，提供自然語(yǔ)言搜索、可自定義管道，具備輕量級(jí)高效的特點(diǎn)，適合快速設(shè)置和有強(qiáng)大搜索需求的項(xiàng)目。DeepSeek賦能各行業(yè)的應(yīng)用場(chǎng)景1.DeepSeek賦能酒企場(chǎng)景-市場(chǎng)分析與消費(fèi)者洞察-智能營(yíng)銷(xiāo)與個(gè)性化推薦-生產(chǎn)優(yōu)化與質(zhì)量控制-供應(yīng)鏈管理與庫(kù)存優(yōu)化-品牌故事與文化傳播-智能客服與消