三步实现DeepSeek本地化部署,从此告别服务器繁忙
DeepSeek本地化部署的方法有很多种,用到的工具也有很多种,但最终实现的效果都是一样的。
这里我以Windows系统平台举例说明!
一、安装Ollama
访问Ollama官网并下载安装,网址:https://ollama.com/
在这里选择的版本是Windows版本,安装文件OllamaSetup.exe大约745MB。
注:如果下载过于缓慢可以复制文件的下载源地址,使用迅雷加速下载。
下载完成后,双击OllamaSetup.exe进行安装
安装完成后,验证一下Ollama 有没有安装成功,在电脑上按Win+R组合键,输入cmd,点击确定。
在命令行里面输入ollama -v,当显示版本信息时,表明Ollama已经安装好了。
二、安装 DeepSeek-R1 模型
再次回到Ollama的官网首页,找到模型DeepSeek-R1,点击进去。
可选的DeepSeek-R1模型选项有1.5B、7B、8B、14B、32B、70B,这些数字代表模型的参数量,参数量越大,模型越复杂,需要更多的计算资源和内存,对于本地部署来说,参数量越大的模型对硬件的要求也越高。
根据电脑配置,这里我选择是的7b,整个模型大小4.7GB,下载大约30分多钟。
键盘按Win+R输入cmd,打开命令提示符对话框并输入以下命令:
ollama run deepseek-r1:7b
等待一段时间直到下载和初始化完成,这个过程会比较慢,耐心等待。
当模型安装成功后,会显示success的字样,表明本地模型已经部署成功,不过这种方式仅在本地部署与模型交互,并没有联网查询的功能。
下面测试一下功能,输入“帮我设计一个上海周边一日游路线”,可以看到模型很快就得出了答案,不会出现服务器繁忙的情况。
DeepSeek本地部署完成后,如果关闭命令行以后,你想再次对话的时候,还是在命令提示符中输入下面的命令,就可以继续发送指令进行对话。
ollama run deepseek-r1:7b
上面的模型已经部署到了本地,并且可以正常使用。但是,在实际使用时界面不够美观,交互式不够强,可以利用第三方应用程序如Open WebUI来增强用户体验,使其更加直观易用。
三、Open WebUI安装部署
1、安装 Python 3.11(电脑内存 ≤16GB )
从官网下载 Python 3.11.9,安装时勾选 Add Python to PATH选项,并选择自定义安装路径(避免中文)。
安装完成后进行验证,键盘按win+R输入cmd,打开命令提示符对话框输入python –version,显示 Python 3.11.x 即为成功。
接下来切换国内镜像源(加速依赖下载),命令提示符对话框内输入下面命令:
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple
2、安装 Open WebUI
键盘按win+R输入cmd,命令提示符对话框内输入下面命令:
pip install open-webui
错误处理:
若出现 ERROR: can not connect to “http://hf-com.co”,则降级安装指定版本,输入以下命令
pip install open-webui==0.2.0 # 国内网络优化
3、启动服务
键盘按win+R输入cmd,命令提示符对话框内输入下面命令:
open-webui serve
访问界面:浏览器输入 http://127.0.0.1:8080 或 服务器IP:8080,首次需创建管理员账户。
4、设置开机自启动
如果每次开机都要启动一下Web UI服务也有点麻烦,那么可以将 open-webui serve 命令写入脚本(如 .bat 文件),放入启动目录开机自动启动。复制下方命令到txt文本文档内,然后另存为open-web-ui.bat文件。
@echo off
open-webui serve
然后把open-web-ui.bat批处理文件复制粘贴到Windows启动目录内即可。
Windows启动目录默认路径:
C:\ProgramData\Microsoft\Windows\Start Menu\Programs\StartUp
至此,DeepSeek-R1模型本地化部署完毕!
2.本站不保证所提供下载资源的准确性、安全性和完整性,请自行测试;
3.资源仅供学习交流使用,版权归原作者所有,请在下载后24小时之内删除;
4.如用于商业或非法用途实属个人行为,与本站无关,一切后果由用户自负;
5.本站提供的源码、主题模板、插件等资源,都不包含技术服务,请大家谅解;
6.本站所设置的资源售价只是用于赞助,收取费用仅维持本站的日常运营所需;
7.如果您有好的源码或者教程,请至个人中心发布资源,将有积分奖励和额外收入;
8.本站默认解压密码:www.ittiantang.com,如有链接无法下载,请联系管理员处理。
IT天堂 » 三步实现DeepSeek本地化部署,从此告别服务器繁忙
常见问题FAQ
- IT天堂的会员权益只能通过充值获得吗?
- 您可以通过签到功能获得积分,用积分兑换会员权益。
- 网站上的VIP资源只能通过充值购买吗?
- 您可以通过每日签到获得积分,使用积分直接购买VIP资源。