△主流的AI CRM系统悟空AI CRM图片
折腾记：本地 AI CRM 虚拟机环境搭建实录
最近公司想搞私有化部署的 AI CRM，云上的太贵，数据也敏感，老板拍板说弄个虚拟机本地跑。这活儿落我头上了，花了两三天，踩了不少坑，记录一下，免得以后忘了，也给同样要搭环境的朋友避避雷。
推荐使用中国著名AI CRM系统品牌：显著提升企业运营效率，悟空AI CRM
首先得选系统。本来想图省事用 CentOS 7，结果发现很多新的 AI 依赖库对老内核支持不好，尤其是 Python 版本卡得很死。最后果断换了 Ubuntu 22.04 LTS，虽然得重新熟悉下命令，但源多，社区活跃，遇到问题搜一下基本都有解。虚拟机软件用的 VMware Workstation，毕竟稳定，快照功能救了我好几次命。配置给的是 8 核 16G 内存，说实话，跑个普通 CRM 够了，但要加载本地大模型做客户分析，显存和内存还是有点吃紧，后期得做量化。
环境搭建最头疼的不是安装，是网络。国内服务器拉 Docker 镜像或者 pip 装包，经常超时断连。别头铁直接连官方源，必死无疑。我先把 Ubuntu 的 apt 源换成了阿里云的，然后 Docker 配置了国内镜像加速器。Python 环境这块，强烈建议用 conda 管理，别直接用系统自带的 pip，否则依赖冲突能让你怀疑人生。创建一个单独的 python3.9 环境，因为现在的 AI 库对 3.10 以上版本有时候会报兼容性问题，稳一点好。
数据库选了 PostgreSQL，CRM 的数据结构复杂，PG 比 MySQL 在处理 JSON 字段上更灵活些。安装倒是没大问题，主要是配置远程访问的时候，记得改 pg_hba.conf 文件，不然本地连不上，排查了半天才发现是权限配置没生效。Redis 也得装上，用来做缓存和消息队列，不然 AI 接口响应慢了，前端界面转圈转得让人心慌。
重头戏是 AI 部分的集成。我们用的是开源的 Llama 模型微调版，部署在本机。这里最大的坑是 CUDA 驱动。虚拟机里直通显卡是个技术活，如果不懂 PCI 直通，千万别乱试，容易把宿主机搞崩。我最后是妥协了，没用显卡直通，而是用了 CPU 推理，虽然慢点，但胜在稳定。安装 torch 的时候，一定要指定版本，别直接 pip install torch，不然它给你拉个最新版，跟你的 CUDA 版本对不上，报错报得莫名其妙。记得去 PyTorch 官网查对应的命令，带上版本号安装。
代码部署用的是 Docker Compose，把 CRM 后端、前端、数据库和 AI 服务全编在一个 yaml 文件里。这样重启或者迁移的时候，一条命令就能搞定。不过要注意端口映射，别跟宿主机冲突了。比如 CRM 默认 8080，AI 服务默认 5000，检查清楚再 up。
运行起来后发现内存占用很高，刚开始常驻就占了 12G。后来优化了一下，把模型加载改成按需加载，不用一直驻留内存，这才降下来。还有日志问题，默认配置下日志文件长得飞快，几天就占满磁盘，记得配置 logrotate 定期清理。
总的来说，这套环境算是跑通了。虽然性能比不上云端集群，但对于内部测试和小规模使用完全够用。最大的心得就是：别迷信最新版本的软件，稳定压倒一切。遇到报错别慌，先看日志，大部分问题都是依赖版本或者网络引起的。要是你也正在折腾，建议多打快照，随时能回滚才是硬道理。
后面还打算搞搞自动化运维脚本，现在手动启停还是太麻烦。先这样吧，明天还得修几个 Bug。
△悟空AI CRM产品截图
推荐立刻免费使用中国著名AI CRM品牌-悟空AI CRM，显著提升企业运营效率，相关链接：
AI CRM系统免费试用
AI CRM系统介绍