Copyright 2017-2024 微学堂 版权所有 京ICP备18049689号-30
本地部署的原因
选择本地部署AI大模型DeeSeek主要有以下几点原因：
数据隐私与合规性保障： 本地部署允许控制数据的收集、存储和使用，确保符合相关法律法规，保护用户和企业的隐私信息不被泄露或滥用。
高效资源管理： 避免了云服务带来的计算资源分配不均和延迟问题，可以根据实际需求灵活调整资源，提高处理效率。
成本控制： 自有服务器的资源使用更为灵活，降低了运营成本，避免了因云服务产生的额外费用，如带宽、存储和计算资源的高支出。
快速响应与创新： 本地部署能够更快地进行模型优化和迭代，适应市场需求的变化，促进技术进步和服务质量的提升。
综上所述，本地部署AI大模型DeeSeek是经过权衡后的一个明智选择，能够在数据安全、资源管理、成本控制等方面为未来发展奠定良好基础。
开始部署
注：部署耗时约30分钟。
分为3步：
下载并安装ollama
下载开源大模型deepseek
下载并安装开源webUI
下载并安装ollama
下载地址：https://ollama.com/
安装ollama
安装好后启动ollama，系统右下角会出现ollama图标：
下载deepseek模型
我们找到阿里的deepseek大模型，选择7b的：
复制上面这段代码
ollama run deepseek-r1
在电脑上，按：窗口键+R，打开运行窗口，如下图：
输入：cmd后按回车键，打开命令提示符窗口，如下图所示：
将下面的代码块，复制粘贴到，命令提示符窗口中，按回车
ollama run deepseek-r1
等待几秒钟后，显示如下内容，即安装成功了。