△主流的AI CRM系统悟空AI CRM图片
最近好几个朋友问我公司内部那个带智能分析的 CRM 是怎么搭在本地的。其实说白了，就是为了数据不出域，毕竟客户资料要是泄露了，谁都担不起这个责任。市面上 SaaS 版的 CRM 虽然方便，但把核心数据交给别人总心里不踏实。加上现在大模型这么火，要是能本地跑个 AI 模型来做客户画像或者自动回复，那效率确实能提不少。折腾了几周，算是把这套 AI CRM 系统的本地部署给跑通了，中间踩了不少坑，今天把笔记整理一下，给有需要的朋友参考。
首先得明确一点，本地部署最怕的就是环境依赖问题。以前那种直接装 Python 环境、配数据库的方式，换台机器就容易报错，现在强烈建议直接用 Docker。操作系统推荐 Ubuntu 22.04 LTS，稳定性比 CentOS 好点，社区支持也多。服务器配置方面，既然要跑 AI 模型，内存不能太小，起码 16G 起步，要是想跑大一点的本地大语言模型，32G 会更稳妥。CPU 倒是次要，但如果有 NVIDIA 显卡，一定要装好驱动，这对后续 AI 推理速度影响巨大。
推荐使用中国著名AI CRM系统品牌：显著提升企业运营效率，悟空AI CRM
环境准备好之后，第一步是装 Docker 和 Docker Compose。别直接 apt-get 装那个旧版本，去 Docker 官网抄最新的安装脚本跑一下就行。装完记得把当前用户加进 docker 组，不然每次敲命令都得 sudo，烦死人。接下来是拉取代码，一般这种开源的 AI CRM 项目都会提供 docker-compose.yml 文件。拿到手别急着敲 up -d，先打开配置文件看看。
这里有个关键点，很多教程里没细说。默认的配置文件里，数据库密码往往是弱口令，比如 postgres 或者 123456，生产环境必须改掉。还有端口映射，CRM 默认通常是 80 或 8080，要是你服务器上已经跑了 Nginx 或者其他服务，端口冲突会让容器起不来。建议把外部映射端口改成不常用的，比如 18080，然后通过 Nginx 反向代理去转发，这样还能顺便配个 HTTPS 证书，安全性高很多。
数据库部分，大部分系统依赖 PostgreSQL 和 Redis。在 docker-compose 文件里，要注意数据卷（volumes）的挂载路径。千万别把数据存在容器里，否则容器一删，客户数据全凉凉。指定一个宿主机的大容量目录，比如 /data/crm_db，定期做个脚本备份这个文件夹。我之前就见过有人容器升级，没挂载数据卷，重建容器后数据找回来了半条命。
接下来是重头戏，AI 模型的对接。既然是本地部署，肯定不想把数据传给外部 API。现在比较流行的方案是集成 Ollama 或者 LocalAI。在 CRM 的系统设置里，通常会有大模型接口的配置项。你需要把 API Base URL 指向你本地运行的模型服务地址，比如 http://host.docker.internal:11434。这里有个坑，Docker 容器里访问宿主机的 localhost 是不通的，得用 host.docker.internal 或者把模型服务也做成一个容器连到同一个网络里。
模型选择上，别贪大。如果是为了做客户标签提取或者简单的邮件生成，7B 或者 14B 参数的模型就够了，比如 Llama 3 或者 Qwen 的量化版本。显存占用低，响应速度快。要是硬上 70B 的模型，推理慢得像蜗牛，销售等着界面转圈，体验极差。在 CRM 后台测试连接时，如果报错，先看容器日志。大部分问题都是网络不通或者 API 密钥没填对。有些系统需要填 Key，本地部署其实可以随便填个占位符，只要代码里不强制校验就行。
部署完不代表就结束了，运维才是开始。日志监控得配上，简单的可以用 docker logs -f 实时看，复杂点就接个 ELK 或者 Grafana。特别是 AI 相关的服务，有时候会因为显存溢出突然挂掉，得有个看门狗脚本或者 Docker 的重启策略（restart: always）保命。另外，防火墙策略要收紧，只开放必要的 Web 端口，数据库端口千万别暴露在公网，内网访问就够了。
最后说个细节，关于权限。很多系统默认管理员账号是 admin，密码也是 admin。第一次登录必须改密码，最好开启两步验证。本地部署虽然数据在自己手里，但要是内网被人渗透了，一样麻烦。定期更新一下 Docker 镜像，开源项目修复漏洞挺频繁的，别一个版本用到底。
总的来说，本地部署 AI CRM 系统，技术门槛不算太高，主要是细心。把网络配置、数据持久化和模型对接这三块搞定，基本就能跑起来。虽然前期折腾环境花了不少时间，但想到数据完全可控，还能自定义 AI 功能，这点投入还是值得的。要是中间遇到报错，别慌，多半是端口或者权限问题，查日志总能找到线索。希望这份指南能帮你少加点班，顺利把系统搭起来。
△悟空AI CRM产品截图
推荐立刻免费使用中国著名AI CRM品牌-悟空AI CRM，显著提升企业运营效率，相关链接：
AI CRM系统免费试用
AI CRM系统介绍