零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

在AI技术飞速发展的今天,大型语言模型已不再是云端服务的专属。本教程将教你如何通过Ollama和Chatbox两款轻量工具,在个人电脑上免费部署炙手可热的DeepSeek模型,无需高端显卡,普通CPU也能流畅运行!ollama安装及部署De

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

在AI技术飞速发展的今天,大型语言模型已不再是云端服务的专属。本教程将教你如何通过Ollama和Chatbox两款轻量工具,在个人电脑上免费部署炙手可热的DeepSeek模型,无需高端显卡,普通CPU也能流畅运行!

ollama安装及部署Deepseek模型

首先我们需要在电脑上安装ollama,本文以windows为例。

ollama简介

Ollama 是一款开源的本地大模型部署工具,旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型(如 Llama、Mistral、DeepSeek 等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过 Ollama,开发者、研究者和爱好者可以快速部署私有化 AI 应用,无需依赖云端服务,同时享受高效、安全的本地 AI 体验。

ollama目前在github上已经拥有123k star

ollama github地址:

ollama安装

ollama安装比较简单,直接在官网下载windows安装包安装就可以了。

ollama下载地址:

安装完之后我们可以在dos窗口中使用以下命令查看版本

代码语言:javascript代码运行次数:0运行复制
ollama -v
_20250209152601.jpg

使用ollama下载deepseek模型

根据自己的电脑配置选择合适的deepseek-r1模型进行安装,目前deepseek-r1有以下版本

我下载的是14b的模型,下载命令如下(我已经下载过14b了,此处用8b做示范),

代码语言:javascript代码运行次数:0运行复制
ollama run deepseek-r1:8b

如果之前未下载过模型文件,执行的命令的时候会下载

_20250209153143.jpg

下载完成之后我们就可以在窗口中使用deepseek-r1模型提问了

ollama api默认只能在本机使用,如果我们想在局域网中使用我们模型的api,则需要在环境变量中添加以下两个配置:

代码语言:javascript代码运行次数:0运行复制

OLLAMA_HOST   0.0.0.0

OLLAMA_ORIGINS   *

添加完成之后需要重启电脑、重启电脑、重启电脑才能生效

chatbox安装及api配置

chatbox 简介

Chatbox 是一个 AI 模型桌面客户端,支持 ChatGPT、Claude、Google Gemini、Ollama 等主流模型,适用于 Windows、Mac、Linux、Web、Android 和 iOS 全平台

该项目目前已经在github上拥有28.9k star

github 地址:

chatbox安装

chatbox安装较为简单,下载最新安装包后直接安装就可以了,如果你之前安装过chatbox,卸载之后安装最新版本,不然会有点慢。

chatbox 下载地址:/zh

ollama api配置

chatbox安装完成之后就可以配置ollama api了,如果要在局域网中使用的话前面所说的环境变量务必要配置,不然只能使用127.0.0.1了。

在chatbox中点击设置,模型提供方选择OLLAMA API

api 域名 填写模型安装机器的ip(本机安装的话也可以使用127.0.0.1):11434, 模型可以选择自己下载过的任意一个

_20250209160535.jpg

这样,我们就可以使用chatbox进行提问了

_20250209163730.jpg

总结

通过本教程,你已成功搭建了一个完全本地化的智能助手!无论是学术研究、代码编写还是日常问答,DeepSeek都能提供可靠支持。赶紧尝试用ollama list探索更多可用模型,开启你的本地AI之旅吧!

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。原始发表:2025-02-09,如有侵权请联系 cloudcommunity@tencent 删除教程模型配置DeepSeek部署

发布者:admin,转转请注明出处:http://www.yc00.com/web/1748336303a4765300.html

相关推荐

  • 零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

    在AI技术飞速发展的今天,大型语言模型已不再是云端服务的专属。本教程将教你如何通过Ollama和Chatbox两款轻量工具,在个人电脑上免费部署炙手可热的DeepSeek模型,无需高端显卡,普通CPU也能流畅运行!ollama安装及部署De

    1天前
    50

发表回复

评论列表(0条)

  • 暂无评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信