手機(jī)端本地部署 Deepseek +桌面端 Deepseek 搭建知識庫教程
本文將介紹如何在安卓手機(jī)和桌面設(shè)備上分別部署本地運行的?Deepseek?R1?模型,并搭建知識庫。
2025-02-17 11:06:05
來源:天極網(wǎng)??

【天極網(wǎng)手機(jī)頻道】從去年年底開始,國產(chǎn)?AI?大模型迅速嶄露頭角,其中由幻方量化旗下深度求索公司研發(fā)的?Deepseek,憑借其卓越表現(xiàn),在上個月震撼了整個人工智能行業(yè)。這家位于杭州的中國公司將中國?AI?技術(shù)推向了世界一流的水準(zhǔn),并于?2025?年?1?月?20?日開源了?Deepseek?R1?大模型。關(guān)于?Deepseek,這段時間也傳來不少新聞,包括它曾遭遇黑客攻擊,因此限制國外手機(jī)號注冊?Deepseek?賬號等問題。與此同時,OpenAI?首席執(zhí)行官?Sam?Altman?在社交平臺?X?上發(fā)布了關(guān)于?ChatGPT?的未來規(guī)劃,透露將為所有用戶提供免費版?ChatGPT?的無限聊天權(quán)限,但需遵守濫用閾值,并計劃推出?ChatGPT-4.5?和?ChatGPT-5。這些消息從側(cè)面印證了?Deepseek?R1?已經(jīng)達(dá)到與?ChatGPT-4?相媲美的國際水平。

本文將介紹如何在安卓手機(jī)和桌面設(shè)備上分別部署本地運行的?Deepseek?R1?模型,并搭建知識庫。那么,為什么選擇在本地部署?AI?大模型呢?本地部署?Deepseek?具有諸多顯著優(yōu)勢。首先,數(shù)據(jù)隱私得到更好的保障,用戶的私人數(shù)據(jù)無需上傳至云端或第三方服務(wù)器,從而大大降低了數(shù)據(jù)泄露的風(fēng)險。第二點,本地部署能夠顯著提高響應(yīng)速度,因為無需依賴網(wǎng)絡(luò)連接和遠(yuǎn)程服務(wù)器,特別是在網(wǎng)絡(luò)不穩(wěn)定時,用戶體驗更加流暢,尤其是現(xiàn)在?Deepseek?的官網(wǎng)由于大量用戶訪問已經(jīng)造成了大概率都是“服務(wù)器繁忙,請稍后再試?!贝送猓x線使用是另一個重要優(yōu)勢,用戶可以在沒有網(wǎng)絡(luò)環(huán)境的情況下,依然享受模型的服務(wù),適用于高安全性或特殊場景。最后一點,通過本地部署,用戶可以建立自己的數(shù)據(jù)庫,實現(xiàn)對數(shù)據(jù)的完全控制和管理,進(jìn)一步提高數(shù)據(jù)處理的靈活性與安全性。

當(dāng)然,與此同時,運行?DeepseekAI?大模型需要強(qiáng)大的計算資源,如高性能的?CPU、GPU,以及大容量的內(nèi)存和存儲設(shè)備。這對于普通筆記本電腦而言,可能需要升級硬件,增加了成本和復(fù)雜性。部署完成的?R1?模型在推理能力、網(wǎng)絡(luò)資源整合等方面肯定是不如直接從網(wǎng)頁訪問回答的準(zhǔn)確和智能。

安卓端

部署?Ubuntu?環(huán)境

首先,需要準(zhǔn)備相關(guān)工具。進(jìn)入?Github?官網(wǎng),搜索?Termux,找到最新的?APK?應(yīng)用包并進(jìn)行安裝。Termux?是一款終端模擬器應(yīng)用程序,專為?Android?系統(tǒng)設(shè)計,提供完整的?Linux?環(huán)境,允許用戶在?Android?設(shè)備上運行?Linux?命令和工具,無需?root?權(quán)限。后續(xù)將通過?Termux?環(huán)境部署?Deepseek?R1?模型。建議使用驍龍?8?Gen2?以上的設(shè)備進(jìn)行部署,以保證性能。

進(jìn)入?Termux?軟件,輸入termux-change-repo指令并運行:

應(yīng)用程序內(nèi)會彈出一個窗口,選擇運行單個鏡像文?“Single?mirror?Choose?a?single?mirror?to?use”,并點擊:

在下一個界面,找到清華大學(xué)鏡像文件源(Tsinghua?University),如果沒有找到,可以通過雙手捏和將顯示界面縮小找到,隨后同樣點擊:

此時重新回到命令行界面,輸入“pkg?update?&&?pkg?upgrade”,更新升級至最新的軟件包,等待完成后,輸入“y”,

下一步,部署?Ubuntu?環(huán)境,需要一定的網(wǎng)絡(luò)條件,分別安裝順序執(zhí)行一下操作部署安裝?Ubuntu工具,pkg?i?proot-distro,此命令使用?pkg?包管理器安裝?proot-distro?工具,proot-distro?install?ubuntu:使用?proot-distro?工具安裝?Ubuntu?發(fā)行版,安裝完成后,再輸入proot-distro?login?ubuntu:登錄到已安裝的?Ubuntu?環(huán)境,進(jìn)入?Ubuntu?的命令行界面。完成以上操作后在命令行界面會有“?root@localhost:~#”,即表示成功進(jìn)入Ubuntu?環(huán)境,此次下載部署在本地的Deepseek?R1模型即將運行在此環(huán)境中。

下載?Deepseek?模型

在上一步最后的Ubuntu?環(huán)境命令行界面,輸入“curl?-fsSL?https://ollama.com/install.sh?|?sh”,通過ollama官網(wǎng)下載Deepseek模型,等待進(jìn)度條完成,需要一定的網(wǎng)絡(luò)條件,隨后進(jìn)入如下界面:

在分別執(zhí)行“OLLAMA_HOST=0.0.0.0”、“?OLLAMA_ORIGINS=*?”、“ollama?serve”三個指令,更改接口并且運行ollama服務(wù)。此時,回到桌面,長按Termux圖標(biāo),點擊“New?session”,回到應(yīng)用內(nèi)輸入兩個指令,啟動Ubuntu環(huán)境,并下載ollama模型,回到Termux應(yīng)用,輸入“proot-distro?login?ubuntu”和“ollama?run?deepseek-r1:1.5b”,再輸入回車,模型開始下載,等待完成即可。?

不建議下載過于復(fù)雜的模型,數(shù)字越大意味著部署的模型就越聰明,同時所需的手機(jī)性能也會越高。

通過Chatbox?與?Deepseek?交互

模型下載完成后,不要關(guān)閉Termux?進(jìn)程的后臺,進(jìn)入?Chatbox?官網(wǎng),下載安卓版本?APK?文件完成應(yīng)用安裝,打開應(yīng)用后,點擊“使用自己的?API?Key?或本地模型”,模型提供方依次選擇?Ollama?API,模型選擇“Deepseek-r1:1.5?b”,可以對模型進(jìn)行身份設(shè)定,方便回答用戶問題,隨后關(guān)閉Termux?和?Chatbox?應(yīng)用。

每次啟動?Chatbox?之前,重新打開?Termux?進(jìn)入?Ubuntu?環(huán)境并?運行?ollama?模型,輸入以下兩個指令:“proot-distro?login?ubuntu”和“ollama?serve”,回到?Chatbox,即可與?Deepseek?交流了。

受限于手機(jī)性能,可能需要一定的響應(yīng)時間,請耐心等待,以下是實際體驗,為了避免手機(jī)清理后臺,建議將?Termux?鎖定在后臺。ok,以上為手機(jī)端部署?Deepseek?的全部內(nèi)容了。

桌面端?Deepseek?建立知識庫

在手機(jī)端部署本地?Deepseek?大模型相對復(fù)雜,但只要按照步驟操作,實際上可以很快完成部署。與此相比,桌面端的?Deepseek?部署要簡單得多。桌面端不需要建立額外的環(huán)境,Windows?和?Mac?端的步驟大致相同,因此本文將重點介紹如何通過本地?Deepseek?R1?模型在?Mac?端搭建自己的知識庫。

下載?Ollama?模型

首先,訪問?Ollama?官網(wǎng),選擇并下載適合?Mac?系統(tǒng)的版本。下載完成后,按照提示完成安裝,安裝后將解壓得到的?Ollama?程序拖動到“應(yīng)用程序”中。?

接著,打開?Mac?系統(tǒng)的“終端”應(yīng)用(Windows?用戶則打開?CMD),在終端中輸入需要下載的?Ollama?模型對應(yīng)的代碼。具體的代碼可以參考?Ollama?官網(wǎng)提供的說明。如果電腦配置較強(qiáng),可以選擇下載較大的模型版本。?

需要注意的是,如果在下載過程中發(fā)現(xiàn)下載速度變慢,可以關(guān)閉當(dāng)前的“終端”窗口,再重新打開并輸入相同的指令。這樣可以恢復(fù)更高的下載速度,并且下載進(jìn)度會被保留,不會丟失。

搭建本地知識庫

完成?Ollama?模型的下載后,接下來是搭建知識庫。首先,訪問?“AnythingLLM”?官網(wǎng),根據(jù)操作系統(tǒng)下載并安裝對應(yīng)的版本。

安裝完成后,打開程序,選擇 “Ollama” 作為模型提供方,并選擇 “8b (依據(jù)電腦配置)模型”。進(jìn)入下一步時,跳過郵箱填寫界面,直接創(chuàng)建一個新的工作區(qū)(Workspace)。

創(chuàng)建工作區(qū)后,進(jìn)入到對話界面。接下來,點擊工作區(qū)?“Test001”的設(shè)置按鈕,進(jìn)入“聊天設(shè)置”頁面。在聊天提示框中對?AI?助手進(jìn)行一些基本設(shè)定,以便模型能夠更快速、更精準(zhǔn)地回答用戶的問題。同時,可以設(shè)置回答語言為中文,并保存這些設(shè)置。?

接下來,需要上傳并嵌入知識庫文件。小編通過?AI?創(chuàng)建了一家虛擬的游戲公司,并將公司簡介整理成一個?Word?文檔。在準(zhǔn)備好文件后,返回“Test001”工作區(qū),點擊右側(cè)的上傳按鈕,將文件上傳至“My?Documents”。選中該文件后,點擊?“Move?to?Workspace”,然后選擇?“Saved?and?Embed”?以保存文件,最后執(zhí)行“Pin?to?Workspace”操作。這些操作都會有提示,確保每個步驟都正確完成。?

測試和提問

知識庫搭建完成后,回到對話框,在工作區(qū)“Test001”中選擇?“New?Thread”?創(chuàng)建一個新的對話框。此時,可以開始向模型提問與知識庫相關(guān)的問題。大模型將根據(jù)文檔內(nèi)容做出準(zhǔn)確回答,確保知識庫的內(nèi)容能夠被有效利用。?

總結(jié)

以上是手機(jī)端部署本地?Deepseek?的教程以及通過?Mac?端部署?Deepseek?R1?大模型并建立本地知識庫的完整教程。從下載模型、搭建知識庫到最后的測試與提問,每一步都很關(guān)鍵,只要按照步驟操作,就能夠順利完成整個過程。希望這篇教程能夠幫助大家順利搭建屬于自己的本地知識庫,提升使用?AI?模型的效率和體驗。

最新文章
1
同益空氣能多箭齊發(fā) 2025 中國供熱展,創(chuàng)新戰(zhàn)略引領(lǐng)產(chǎn)業(yè)升級趨勢
2
向心而新,同益煥新!同益空氣能亮相2025中國供熱展,創(chuàng)新引領(lǐng)暖通行業(yè)新趨勢
3
海信全球第二、百吋第一背后:打贏AI時代的高端大屏之戰(zhàn)
4
海信空調(diào)七代雙向新風(fēng)技術(shù)亮相,改寫空調(diào) “呼吸” 規(guī)則
5
奧維數(shù)據(jù):容聲506冰箱霸榜線下行業(yè)產(chǎn)品TOP1
6
1.0到4.0的蛻變,海信冰箱如何做到分子級保鮮?
7
全場景家庭綠電,讓華寶新能走上綠色能源市場變革浪潮之巔
8
百度發(fā)布2024年第四季度及全年財報,AI是“救贖”還是“負(fù)擔(dān)”?
9
2024年全球電視出貨量達(dá)2.08億臺,中國電視市場潛力十足
10
海信全球首款RGB-Mini LED電視國內(nèi)首次亮相
11
真我官宣接入DeepSeek!挑戰(zhàn)同檔最智能天璣8400游戲神機(jī)
12
1月線上智能門鎖:開年市場冷熱不均,價格再回千元以內(nèi)
13
從家電到機(jī)器人 家電巨頭競逐新戰(zhàn)場
14
多地舊房改造、廚房局改補貼細(xì)則出爐,今年裝修省錢了!
15
蘋果iPhone 16e 正式發(fā)布 4499元起
16
蘋果機(jī)器人計劃:2028年量產(chǎn)?別急,慢慢等!
17
賦能超1000萬輛汽車!OPPO以閃充技術(shù)定義出行快充新體驗
18
“格力專賣店”改名“董明珠健康家”,好處是什么?
19
開創(chuàng)家庭綠電新紀(jì)元:華寶新能全場景家庭綠電創(chuàng)新峰會解碼零碳未來技術(shù)路徑
20
市場調(diào)研機(jī)構(gòu)Omdia:海信激光電視出貨量連續(xù)6年穩(wěn)居全球第一
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512