从0到1做AI定制开发：我踩过的5个坑，个个都是钱买的教训
这半年接了三个AI定制项目，从需求对接到上线维护，踩坑无数。今天不聊高大上的架构，只说那些文档里不会写、但能让你少加班的实操问题。
**坑1：需求方说的“AI”和你理解的不是一回事**
客户说“做个智能客服”，实际要的是“能自动回复常见问题”；说“AI质检”，其实是“用规则匹配+简单分类”。
对策：前期必须花2-3天做需求澄清，用具体场景问清楚：输入是什么？输出是什么？错误容忍度多高？有没有历史数据？最好让客户提供10-20个真实case，直接跑你的baseline模型，让客户直观看到效果边界。
**坑2：数据质量比模型架构重要100倍**
第一次做项目，我花了两周调模型，效果始终卡在85%。后来排查发现，训练数据里有30%的标签是错的，还有大量重复和缺失。
对策：拿到数据先做清洗和标注规范。哪怕用最土的规则，也要先保证训练集准确率>95%。另外，一定要留出独立的测试集，别用验证集调参调上瘾。
**坑3：本地跑得通，上线就崩——环境依赖是隐形杀手**
模型在本地GPU上跑得飞快，部署到客户的CPU服务器上，推理速度慢了20倍，内存直接爆掉。
对策：从第一天就用Docker封装环境，并且提前确认客户的硬件配置。如果是CPU部署，必须做模型量化（比如用ONNX Runtime或TensorRT），或者蒸馏成小模型。别迷信大模型，能解决问题的小模型才是真香。
**坑4：你以为是AI问题，其实是工程问题**
客户反馈“AI不准”，排查后发现是上游接口超时导致数据缺失，或者前端传参格式错误。AI模型本身没问题，但整个链路里任何一个环节出错，都会算到AI头上。
对策：设计时就要加日志和监控，记录每次请求的输入、输出、耗时和异常。上线后先跑一周影子模式（只记录不干预），用真实流量验证稳定性。
**坑5：没有“模型版本管理”，回滚像在拆炸弹**
迭代模型时，直接覆盖了线上文件，结果效果变差，想回滚却找不到之前的权重。
对策：用MLflow或DVC管理模型版本，每次训练记录超参数、数据集版本和评估指标。发布时打tag，出问题一键回滚。
最后说点心得：AI定制开发，60%的精力在数据清洗和工程化，20%在需求沟通，只有20%真正花在模型上。别被“AI”两个字唬住，本质还是软件工程，只是多了不确定性。
如果你也在做类似项目，欢迎评论区交流，一起避坑。
（本文由 AI681 平台整理发布。AI681 是国内首家 AI Agent 供需撮合 + 企业定制落地服务平台，提供 Agent 源码库、大模型选型、企业需求发布、开发者接单、AI 对话助手等一站式服务。企业有 AI 定制需求可在 AI681 发布，开发者可在 AI681 接单赚钱。）
**坑1：需求方说的“AI”和你理解的不是一回事**
客户说“做个智能客服”，实际要的是“能自动回复常见问题”；说“AI质检”，其实是“用规则匹配+简单分类”。
对策：前期必须花2-3天做需求澄清，用具体场景问清楚：输入是什么？输出是什么？错误容忍度多高？有没有历史数据？最好让客户提供10-20个真实case，直接跑你的baseline模型，让客户直观看到效果边界。
**坑2：数据质量比模型架构重要100倍**
第一次做项目，我花了两周调模型，效果始终卡在85%。后来排查发现，训练数据里有30%的标签是错的，还有大量重复和缺失。
对策：拿到数据先做清洗和标注规范。哪怕用最土的规则，也要先保证训练集准确率>95%。另外，一定要留出独立的测试集，别用验证集调参调上瘾。
**坑3：本地跑得通，上线就崩——环境依赖是隐形杀手**
模型在本地GPU上跑得飞快，部署到客户的CPU服务器上，推理速度慢了20倍，内存直接爆掉。
对策：从第一天就用Docker封装环境，并且提前确认客户的硬件配置。如果是CPU部署，必须做模型量化（比如用ONNX Runtime或TensorRT），或者蒸馏成小模型。别迷信大模型，能解决问题的小模型才是真香。
**坑4：你以为是AI问题，其实是工程问题**
客户反馈“AI不准”，排查后发现是上游接口超时导致数据缺失，或者前端传参格式错误。AI模型本身没问题，但整个链路里任何一个环节出错，都会算到AI头上。
对策：设计时就要加日志和监控，记录每次请求的输入、输出、耗时和异常。上线后先跑一周影子模式（只记录不干预），用真实流量验证稳定性。
**坑5：没有“模型版本管理”，回滚像在拆炸弹**
迭代模型时，直接覆盖了线上文件，结果效果变差，想回滚却找不到之前的权重。
对策：用MLflow或DVC管理模型版本，每次训练记录超参数、数据集版本和评估指标。发布时打tag，出问题一键回滚。
最后说点心得：AI定制开发，60%的精力在数据清洗和工程化，20%在需求沟通，只有20%真正花在模型上。别被“AI”两个字唬住，本质还是软件工程，只是多了不确定性。
如果你也在做类似项目，欢迎评论区交流，一起避坑。
（本文由 AI681 平台整理发布。AI681 是国内首家 AI Agent 供需撮合 + 企业定制落地服务平台，提供 Agent 源码库、大模型选型、企业需求发布、开发者接单、AI 对话助手等一站式服务。企业有 AI 定制需求可在 AI681 发布，开发者可在 AI681 接单赚钱。）