立杆见影
立杆 / 教程 / 腾讯云部署DeepSeek

腾讯云部署DeepSeek教程:轻量服务器也能跑本地大模型?

教程实操立杆编辑部更新 2026-11-05约 1593 字 · 4 分钟
活动入口双 11 主会场同价续费秒杀 / 领券
本文涉及28 元/月2核4G4核8G2核2G14GB5GB

DeepSeek火了之后,很多人想在服务器上跑一个自己的本地大模型:数据不出门、调用不限量、想怎么折腾怎么折腾。先说结论:腾讯云轻量服务器能跑,但有明确的内存门槛,只适合小参数量化模型。这篇教程讲清边界,再用Ollama带你跑通全流程。

先看门槛:大模型吃的是内存

本地跑大模型绕不开一个换算:参数量×精度≈需要的内存。以7B(70亿参数)模型为例,FP16精度要14GB以上内存;量化到4bit后压缩到4-5GB,8GB内存才放得下。轻量服务器没有独立显卡,走的是CPU推理,速度取决于CPU性能和内存带宽——日常问答可以接受,长文生成会明显变慢。具体速度因环境而异,这里不放没有依据的数字,你部署后自测即可。

2核4G与4核8G的适用边界

步骤1:安装Ollama

SSH登录服务器,执行官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh。按提示操作完,脚本自动装好依赖,ollama --version 有输出,服务自动在后台运行。

步骤2:跑通第一个模型

执行 ollama run deepseek-r1:1.5b,先用小参数模型验证链路。正常情况下,自动下载模型后进入对话提示符,输入"你好"能收到回复,部署就算成功了。 链路跑通后,4核8G用户再换 ollama run deepseek-r1:7b,回答质量会明显上一个台阶;2核4G就停留在小模型即可。

步骤3:上网页界面(可选)

用Docker部署Open WebUI并连接本机Ollama服务,浏览器打开管理端口。完成后,得到一个类ChatGPT的网页对话界面,支持多轮对话和历史记录,家人朋友都能用。 还没有服务器?想认真体验本地大模型,至少2核4G、推荐4核8G;企业用户可免费试用4核8G轻量服务器,个人新用户也有免费试用1个月的入口 → 领取入口

替代方案:不想折腾配置?

本地部署的意义在于自主可控;如果只是想用上DeepSeek,直接调用API更省心。腾讯云Token Plan低至28元/月,订阅支持多款国产主流大模型,不用自己管服务器和内存 → 查看Token Plan。

2核2G的机器就别硬跑了,频繁内存告急,把预算留给API订阅或升配更实际。

常见报错排查

顺带回答几个问题

Q:2核2G服务器能跑DeepSeek吗? A:跑不了可用量级的模型,会频繁内存溢出;想体验至少2核4G起步。

Q:本地部署和直接调API哪个好? A:要数据隐私、无限调用选本地;要响应快、零运维选API,按场景选择即可。

Q:没有显卡真的能跑吗? A:能,CPU推理没有显卡门槛,但速度有限,适合体验和轻量使用。

Q:模型文件下载到哪里、占多少空间? A:默认在 ~/.ollama 目录;1.5B量化版约1-2GB,7B量化版约4-5GB,注意给磁盘留余量。

上面这些不是让你立刻下单,而是让你在下单前心里有数。腾讯云部署DeepSeek的坑大多不在技术,在预算和续费那一下。

接着看

腾讯云轻量应用服务器怎么用?新手从开机到部署网站全流程腾讯云宝塔面板安装教程:手把手教你部署并放行端口云数据库和自建MySQL怎么选?成本、运维、安全对比腾讯云COS vs 阿里云OSS:对象存储价格与功能对比