新闻资讯
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
新闻资讯:DeepSeek引爆本地部署热,个人企业争相入局
2025-2-14    点击关注我们

AI引发本地部署热潮。

随着DeepSeek持续火爆出圈,人们开始不满足于网页端和APP端上使用DeepSeek,而尝试将DeepSeek进行本地化部署。本地化部署是指将DeepSeek的AI大模型安装到本地计算机内,不依赖网络或云服务。记者搜索视频网站发现,不少用户上传了如何将DeepSeek部署到本地计算机的教程,不少视频浏览量超过100万。

DeepSeek引发本地部署热潮

教人部署DeepSeek也成为了一门生意。记者通过在电商平台搜索“DeepSeek本地部署”发现,不少店铺开辟了DeepSeek本地部署的生意,这些服务单价从几元到几十元不等,其中一些服务近期已有1000人购买。

一位尝试过部署的AI爱好者告诉记者,网络端运行响应速度较慢,并且访问量过大时候,时常出现“服务器繁忙,请稍后再试。”为了获得更好的使用体验,他就尝试采用DeepSeek进行本地部署。据了解,本地部署不需要掌握深厚的编程知识,通过教程按部就班,即可部署成功。

艾媒咨询首席分析师张毅告诉记者:“本地部署支持个人根据需求,对DeepSeek进行一些定制化修改,也是驱动力之一。”张毅补充道,本地部署中个人数据不上云,可满足隐私需要。

DeepSeek发布了不同参数量的模型,小至10亿参数,大至6710亿参数,参数越大所需的计算资源就越大。由于个人电脑手机等设备的计算资源受限,6710亿参数的DeepSeek模型往往无法本地部署。“普通笔记本电脑只能部署10亿参数的版本,如果个人电脑配有好的GPU显卡或较高内存(比如32GB),那么可以跑70亿参数版本的DeepSeek。”上述AI技术爱好者告诉记者。

从本地部署的效果而言,参数越小的版本,大模型的回答质量越差。“我尝试本地部署过70亿参数版本的DeepSeek,运行较流畅,但是回答质量还比云端版本差很多,更小参数版本的效果会更差。”上述AI爱好者表示。

在DeepSeek本地部署的热度下,专门在PC中添加了NPU的AI PC有望迎来销量增长。据了解,华为、联想、戴尔等电脑品牌纷纷推出AI PC,这种新型PC搭载有专门处理本地部署AI大模型计算的处理器芯片,这些处理器芯片均由英特尔、AMD、高通等芯片厂提供。

这些AI PC可在本地部署并流畅运行上百亿参数的AI大模型,例如本次CES 2025年上,AMD就推出了Ryzen AI max系列处理器,称可在电脑本地运行700亿参数AI大模型。不过,配置有该处理器芯片的AI PC售价不菲,据了解,华硕某游戏本价格近1.5万元。另外,也有人质疑,花大价钱买AI PC,进行AI大模型的本地部署,实现功能却和云端AI大模型高度重合,AI PC仅仅是厂商的噱头而已。

企业尝试本地部署DeepSeek

除了个人开启DeepSeek本地部署之外,企业也开始跃跃欲试。蛇年工作日的第一天,蒂姆维澳创始人王加辉发布一条微信朋友圈:“DeepSeek大模型本地电脑部署体验成功,导入煤矿知识安全库进行问答,下一步让它结合工业现场作业。”

蒂姆维澳是一家提供工业管理解决方案的企业,它面向采矿业、石油业等行业,运用AR眼镜和AI软件,为工业现场人员的维修、质检、故障排查,提供实时观察和指导。王加辉告诉记者,此前仅采用通义千问AI大模型打造了本地知识库问答,鉴于DeepSeek更好的推理能力,他正考虑将DeepSeek和业务深度融合。

“我们会在DeepSeek基础上,根据特定工业场景的需求和数据,对特定参数进行微调,或者进行二次开发,以适配IT系统和实现新功能。”王加辉向记者表示:“我们目标是将DeepSeek部署在本地,并和现场的相机进行联动,从而更好地识别现场的危险作业,并实现隐患排查和产品质检等功能。”

他认为,工业客户是否采用本地部署主要取决于数据的涉密性。“一些国企、军工、医疗设备企业往往要求我们实施本地部署的方案,因为它们对于数据安全的要求较高。”他进一步补充道:“非涉密场景可采用云端接入的方案,虽然会出现操作延时,但是影响不大,并且方案价格更低。”

如果采用本地部署,这些客户要求配置装有4卡或8卡GPU的服务器,实现DeepSeek本地推理服务。“我的客户普遍选择英伟达的消费级显卡来配置服务器,例如4090,性价比较高。”王加辉表示:“如果客户有国产化配置要求,我们会采购价格更高的国产GPU显卡。”

除工业外,越来越多企业开始本地部署DeepSeek。国金证券(8.830, 0.49, 5.88%)称DeepSeek可应用于信息检索、文档处理、行业研究、市场研判等场景。此外,医疗行业、网络安全等行业内的企业近期也在本地化部署DeepSeek,包括万达信息(8.170, 0.56, 7.36%)、奇虎360等。

张毅告诉记者,随着企业对本地化部署要求扩大,国产推理算力的需求量将增加,加上美国对高端芯片封禁,国产芯片算力企业将迎来较大机遇。

AI应用将爆发

高通CEO克里斯蒂亚诺·安蒙(Cristiano Amon)称,DeepSeek-R1是AI产业的转折点,AI推理将向端侧迁移,AI将变得更小、更高效、更定制化,并且基于特定场景的AI大模型和AI应用将出现。中航证券研报认为,DeepSeek-R1说明了端侧AI部署将变得更加普惠,万物智能时代将加速到来。

开源将吸引更多开发者在DeepSeek基础上构筑应用。华为昇腾、摩尔线程、壁仞科技、天数智芯等国产GPU卡已经适配DeepSeek;腾讯云、阿里云、移动云、华为云等云厂商也和DeepSeek完成适配。对国产算力的适配优化,有望进一步降低推理侧的成本。

由于国内应用付费的习惯尚未完全成熟,AI应用的商业化可能受阻。国金计算机首席孟灿认为,美国对应用付费有着10年,甚至20年基础,这对AI应用的商业化有助益,而国内由于尚无此基础,AI应用落地及商业化的时间进度会较慢。不过,国内正在不断追赶,时间进度有望缩短至半年以内。

阅读:48
双十一“营销短信”轰炸难题何解?
双十一“营销短信”轰炸难题何解?
又一App悄然下线 直销银行八年失色
又一App悄然下线 直销银行八年失色
618落幕,手机厂商花式战报成色几何?
618落幕,手机厂商花式战报成色几何?
经济日报:按下App“适老”改造加速键
经济日报:按下App“适老”改造加速键
数字人民币试点场景已超350万个
数字人民币试点场景已超350万个
消息称Arm计划将授权许可费用涨价至高300%,三星Exynos芯片未来发展面临变局
消息称Arm计划将授权许可费用涨价至高300%,三星Exynos芯片未来发展面临变局
百度文心一言市场负责人张全文否认放弃通用大模型:将持续加大研发投入
百度文心一言市场负责人张全文否认放弃通用大模型:将持续加大研发投入
大模型新趋势之MoE:现状、挑战及研究方向
大模型新趋势之MoE:现状、挑战及研究方向
沙特计划斥资1000亿美元打造AI中心
沙特计划斥资1000亿美元打造AI中心
微信回应切断抖音外链:坚决打击给用户造成诱导、骚扰的字符口令
微信回应切断抖音外链:坚决打击给用户造成诱导、骚扰的字符口令
上一篇:OpenAI CEO 阿尔特曼最新思考:AI 普惠与 AGI 的挑战
下一篇:智库观点:解码DeepSeek
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
我们的联系方式
联系地址:云南省昆明市官渡区永平路188号鑫都韵城写字楼6栋1004号
联系电话:0871-64605728、传真号码:0871-64605728
电子邮箱:19701580@qq.com
点击拨打 0871-64605728 咨询我们
长按指纹即可关注我们
微网站由云港互联设计开发  点击进入
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。