">

首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 人工智能 >> 正文

DeepSeek引爆本地部署熱,個人企業(yè)爭相入局

2025年2月10日 07:37  第一財經  

AI引發(fā)本地部署熱潮。

隨著DeepSeek持續(xù)火爆出圈,人們開始不滿足于網頁端和APP端上使用DeepSeek,而嘗試將DeepSeek進行本地化部署。本地化部署是指將DeepSeek的AI大模型安裝到本地計算機內,不依賴網絡或云服務。記者搜索視頻網站發(fā)現,不少用戶上傳了如何將DeepSeek部署到本地計算機的教程,不少視頻瀏覽量超過100萬。

DeepSeek引發(fā)本地部署熱潮

教人部署DeepSeek也成為了一門生意。記者通過在電商平臺搜索“DeepSeek本地部署”發(fā)現,不少店鋪開辟了DeepSeek本地部署的生意,這些服務單價從幾元到幾十元不等,其中一些服務近期已有1000人購買。

一位嘗試過部署的AI愛好者告訴記者,網絡端運行響應速度較慢,并且訪問量過大時候,時常出現“服務器繁忙,請稍后再試。”為了獲得更好的使用體驗,他就嘗試采用DeepSeek進行本地部署。據了解,本地部署不需要掌握深厚的編程知識,通過教程按部就班,即可部署成功。

艾媒咨詢首席分析師張毅告訴記者:“本地部署支持個人根據需求,對DeepSeek進行一些定制化修改,也是驅動力之一!睆堃阊a充道,本地部署中個人數據不上云,可滿足隱私需要。

DeepSeek發(fā)布了不同參數量的模型,小至10億參數,大至6710億參數,參數越大所需的計算資源就越大。由于個人電腦手機等設備的計算資源受限,6710億參數的DeepSeek模型往往無法本地部署!捌胀üP記本電腦只能部署10億參數的版本,如果個人電腦配有好的GPU顯卡或較高內存(比如32GB),那么可以跑70億參數版本的DeepSeek!鄙鲜鯝I技術愛好者告訴記者。

從本地部署的效果而言,參數越小的版本,大模型的回答質量越差!拔覈L試本地部署過70億參數版本的DeepSeek,運行較流暢,但是回答質量還比云端版本差很多,更小參數版本的效果會更差!鄙鲜鯝I愛好者表示。

在DeepSeek本地部署的熱度下,專門在PC中添加了NPU的AI PC有望迎來銷量增長。據了解,華為、聯想、戴爾等電腦品牌紛紛推出AI PC,這種新型PC搭載有專門處理本地部署AI大模型計算的處理器芯片,這些處理器芯片均由英特爾、AMD、高通等芯片廠提供。

這些AI PC可在本地部署并流暢運行上百億參數的AI大模型,例如本次CES 2025年上,AMD就推出了Ryzen AI max系列處理器,稱可在電腦本地運行700億參數AI大模型。不過,配置有該處理器芯片的AI PC售價不菲,據了解,華碩某游戲本價格近1.5萬元。另外,也有人質疑,花大價錢買AI PC,進行AI大模型的本地部署,實現功能卻和云端AI大模型高度重合,AI PC僅僅是廠商的噱頭而已。

企業(yè)嘗試本地部署DeepSeek

除了個人開啟DeepSeek本地部署之外,企業(yè)也開始躍躍欲試。蛇年工作日的第一天,蒂姆維澳創(chuàng)始人王加輝發(fā)布一條微信朋友圈:“DeepSeek大模型本地電腦部署體驗成功,導入煤礦知識安全庫進行問答,下一步讓它結合工業(yè)現場作業(yè)!

蒂姆維澳是一家提供工業(yè)管理解決方案的企業(yè),它面向采礦業(yè)、石油業(yè)等行業(yè),運用AR眼鏡和AI軟件,為工業(yè)現場人員的維修、質檢、故障排查,提供實時觀察和指導。王加輝告訴記者,此前僅采用通義千問AI大模型打造了本地知識庫問答,鑒于DeepSeek更好的推理能力,他正考慮將DeepSeek和業(yè)務深度融合。

“我們會在DeepSeek基礎上,根據特定工業(yè)場景的需求和數據,對特定參數進行微調,或者進行二次開發(fā),以適配IT系統(tǒng)和實現新功能!蓖跫虞x向記者表示:“我們目標是將DeepSeek部署在本地,并和現場的相機進行聯動,從而更好地識別現場的危險作業(yè),并實現隱患排查和產品質檢等功能。”

他認為,工業(yè)客戶是否采用本地部署主要取決于數據的涉密性!耙恍﹪、軍工、醫(yī)療設備企業(yè)往往要求我們實施本地部署的方案,因為它們對于數據安全的要求較高!彼M一步補充道:“非涉密場景可采用云端接入的方案,雖然會出現操作延時,但是影響不大,并且方案價格更低!

如果采用本地部署,這些客戶要求配置裝有4卡或8卡GPU的服務器,實現DeepSeek本地推理服務。“我的客戶普遍選擇英偉達的消費級顯卡來配置服務器,例如4090,性價比較高!蓖跫虞x表示:“如果客戶有國產化配置要求,我們會采購價格更高的國產GPU顯卡。”

除工業(yè)外,越來越多企業(yè)開始本地部署DeepSeek。國金證券(8.830, 0.49, 5.88%)稱DeepSeek可應用于信息檢索、文檔處理、行業(yè)研究、市場研判等場景。此外,醫(yī)療行業(yè)、網絡安全等行業(yè)內的企業(yè)近期也在本地化部署DeepSeek,包括萬達信息(8.170, 0.56, 7.36%)、奇虎360等。

張毅告訴記者,隨著企業(yè)對本地化部署要求擴大,國產推理算力的需求量將增加,加上美國對高端芯片封禁,國產芯片算力企業(yè)將迎來較大機遇。

AI應用將爆發(fā)

高通CEO克里斯蒂亞諾·安蒙(Cristiano Amon)稱,DeepSeek-R1是AI產業(yè)的轉折點,AI推理將向端側遷移,AI將變得更小、更高效、更定制化,并且基于特定場景的AI大模型和AI應用將出現。中航證券研報認為,DeepSeek-R1說明了端側AI部署將變得更加普惠,萬物智能時代將加速到來。

開源將吸引更多開發(fā)者在DeepSeek基礎上構筑應用。華為昇騰、摩爾線程、壁仞科技、天數智芯等國產GPU卡已經適配DeepSeek;騰訊云、阿里云、移動云、華為云等云廠商也和DeepSeek完成適配。對國產算力的適配優(yōu)化,有望進一步降低推理側的成本。

由于國內應用付費的習慣尚未完全成熟,AI應用的商業(yè)化可能受阻。國金計算機首席孟燦認為,美國對應用付費有著10年,甚至20年基礎,這對AI應用的商業(yè)化有助益,而國內由于尚無此基礎,AI應用落地及商業(yè)化的時間進度會較慢。不過,國內正在不斷追趕,時間進度有望縮短至半年以內。

編 輯:高靖宇
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創(chuàng)”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發(fā)之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
vivo胡柏山:手機行業(yè)是最典型的新質生產力代表
精彩專題
2024通信業(yè)年終盤點
2024數字科技生態(tài)大會
2024年度中國光電纜優(yōu)質供應商評選活動
2024全球6G發(fā)展大會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像