从0到1做AI定制开发，我踩过的5个坑（附避坑指南）
去年接了三个AI定制项目，从需求对接到最终上线，踩的坑比写的代码还多。今天把最典型的5个坑分享出来，希望能帮准备入局的朋友省下几周甚至几个月的试错时间。
**坑1：需求阶段就错了——客户要的是“AI”，不是“你的AI”**
第一个项目，客户说“要个智能客服”，我们直接上了RAG+微调，结果上线后客户抱怨“回答太机械，不如原来的关键词匹配”。复盘发现：客户真正痛点是“客服响应慢”，而不是“回答不智能”。他们只需要一个能自动回复80%常见问题的路由系统，根本不需要大模型。
避坑指南：需求阶段务必追问三个问题——① 现在这个流程卡在哪？② 人工处理一个case平均多久？③ 如果AI只能做到80分，你能接受吗？把“AI能做什么”翻译成“业务缺什么”，否则技术再先进也是自嗨。
**坑2：数据准备——你以为的“有数据”和实际的“能用数据”是两回事**
第二个项目做合同要素抽取，客户拍胸脯说“我们有10万份历史合同”。拿到手一看：扫描件占60%，PDF里还有30%是图片格式，剩下10%的文本里有一半是手写批注。清洗+标注花了整整六周，比模型开发还长。
避坑指南：进场第一周就做数据审计，别信口头承诺。用脚本跑一遍：格式分布、字段缺失率、标注一致性。如果非结构化数据超过40%，直接建议客户先做数字化，别硬上AI。另外，标注规范一定要客户业务方签字确认，否则返工无底洞。
**坑3：模型选型——不是越大越好，是越“合身”越好**
第三个项目做工业质检，客户迷信GPT-4V，坚持要用多模态大模型。我们测算了一下：单张图片推理成本0.03元，产线每天5万张，一年成本54万，还不算延迟导致的产线停顿。后来换成小模型+传统CV预处理，精度只降了1.2%，成本降到每年3万。
避坑指南：选型先算三笔账——推理成本、延迟要求、精度容忍度。如果任务边界清晰（比如固定类别的缺陷检测），优先考虑小模型或开源模型微调。大模型适合开放域、长尾场景，但别拿来干“拧螺丝”的活。
**坑4：工程化落地——Demo和产品的距离，比你想的远**
所有项目都会在Demo阶段遭遇“幻觉式成功”：本地跑通，一上生产就崩。最常见的问题：并发一高就OOM，API限流没做重试，日志里全是超时。有个项目上线第一天，因为没做输入长度校验，用户粘贴了一篇论文，直接触发了模型最大token限制，服务挂了半小时。
避坑指南：Demo通过后，强制做四件事——① 压测：按峰值QPS的3倍打；② 降级：模型超时自动切规则兜底；③ 监控：记录每次调用的输入长度、耗时、token消耗；④ 限流：按用户维度做配额。这四步做完，至少能挡住80%的线上事故。
**坑5：验收标准——别用“准确率”糊弄自己**
最后一个坑最隐蔽：模型准确率92%，客户就是不验收。一问才知道，那8%的错误集中在“高风险合同”上，漏掉一个条款可能赔几百万。准确率是全局指标，但业务看的是关键场景的召回率。
避坑指南：验收指标必须和业务损失挂钩。分类任务看混淆矩阵，生成任务看人工抽检通过率，抽取任务看字段级F1。更重要的是，和客户一起定义“什么错误可以接受，什么错误一票否决”。把这条写进合同，比任何技术优化都管用。
**总结一下**
AI定制开发，技术只占30%，剩下70%是需求翻译、数据治理、成本控制和预期管理。别急着调模型，先搞清楚业务到底要什么。如果你也在做类似项目，欢迎评论区交流，一起少踩坑。
（本文由 AI681 平台整理发布。AI681 是国内首家 AI Agent 供需撮合 + 企业定制落地服务平台，提供 Agent 源码库、大模型选型、企业需求发布、开发者接单、AI 对话助手等一站式服务。企业有 AI 定制需求可在 AI681 发布，开发者可在 AI681 接单赚钱。）
**坑1：需求阶段就错了——客户要的是“AI”，不是“你的AI”**
第一个项目，客户说“要个智能客服”，我们直接上了RAG+微调，结果上线后客户抱怨“回答太机械，不如原来的关键词匹配”。复盘发现：客户真正痛点是“客服响应慢”，而不是“回答不智能”。他们只需要一个能自动回复80%常见问题的路由系统，根本不需要大模型。
避坑指南：需求阶段务必追问三个问题——① 现在这个流程卡在哪？② 人工处理一个case平均多久？③ 如果AI只能做到80分，你能接受吗？把“AI能做什么”翻译成“业务缺什么”，否则技术再先进也是自嗨。
**坑2：数据准备——你以为的“有数据”和实际的“能用数据”是两回事**
第二个项目做合同要素抽取，客户拍胸脯说“我们有10万份历史合同”。拿到手一看：扫描件占60%，PDF里还有30%是图片格式，剩下10%的文本里有一半是手写批注。清洗+标注花了整整六周，比模型开发还长。
避坑指南：进场第一周就做数据审计，别信口头承诺。用脚本跑一遍：格式分布、字段缺失率、标注一致性。如果非结构化数据超过40%，直接建议客户先做数字化，别硬上AI。另外，标注规范一定要客户业务方签字确认，否则返工无底洞。
**坑3：模型选型——不是越大越好，是越“合身”越好**
第三个项目做工业质检，客户迷信GPT-4V，坚持要用多模态大模型。我们测算了一下：单张图片推理成本0.03元，产线每天5万张，一年成本54万，还不算延迟导致的产线停顿。后来换成小模型+传统CV预处理，精度只降了1.2%，成本降到每年3万。
避坑指南：选型先算三笔账——推理成本、延迟要求、精度容忍度。如果任务边界清晰（比如固定类别的缺陷检测），优先考虑小模型或开源模型微调。大模型适合开放域、长尾场景，但别拿来干“拧螺丝”的活。
**坑4：工程化落地——Demo和产品的距离，比你想的远**
所有项目都会在Demo阶段遭遇“幻觉式成功”：本地跑通，一上生产就崩。最常见的问题：并发一高就OOM，API限流没做重试，日志里全是超时。有个项目上线第一天，因为没做输入长度校验，用户粘贴了一篇论文，直接触发了模型最大token限制，服务挂了半小时。
避坑指南：Demo通过后，强制做四件事——① 压测：按峰值QPS的3倍打；② 降级：模型超时自动切规则兜底；③ 监控：记录每次调用的输入长度、耗时、token消耗；④ 限流：按用户维度做配额。这四步做完，至少能挡住80%的线上事故。
**坑5：验收标准——别用“准确率”糊弄自己**
最后一个坑最隐蔽：模型准确率92%，客户就是不验收。一问才知道，那8%的错误集中在“高风险合同”上，漏掉一个条款可能赔几百万。准确率是全局指标，但业务看的是关键场景的召回率。
避坑指南：验收指标必须和业务损失挂钩。分类任务看混淆矩阵，生成任务看人工抽检通过率，抽取任务看字段级F1。更重要的是，和客户一起定义“什么错误可以接受，什么错误一票否决”。把这条写进合同，比任何技术优化都管用。
**总结一下**
AI定制开发，技术只占30%，剩下70%是需求翻译、数据治理、成本控制和预期管理。别急着调模型，先搞清楚业务到底要什么。如果你也在做类似项目，欢迎评论区交流，一起少踩坑。
（本文由 AI681 平台整理发布。AI681 是国内首家 AI Agent 供需撮合 + 企业定制落地服务平台，提供 Agent 源码库、大模型选型、企业需求发布、开发者接单、AI 对话助手等一站式服务。企业有 AI 定制需求可在 AI681 发布，开发者可在 AI681 接单赚钱。）
评论 / 解答（8）
本板块为问答求助区：回复时可点击「作为解答」，楼主可采纳最佳答案。
移动端开发
2026-09-12 01:00
楼主的方案很详细，赞一个！我补充一个小技巧：可以用缓存来提升性能，减少数据库压力。特别是热点数据，缓存效果很明显。
2026-09-12 09:00
这个问题的根本原因应该是资源竞争导致的，可以尝试加锁或者用队列来解决。我之前遇到过类似的问题，这样处理后就好了。
2026-09-14 01:00
刚入门，看了楼主的帖子收获很大。请问有没有推荐的学习资料或者入门教程？想系统学习一下这方面的知识。
2026-09-14 23:00
我觉得可以换个思路，用另一种方案可能更合适。不过楼主的方案也有可取之处，学习了。期待后续更新！
2026-09-15 05:00
我们项目中用的是类似的架构，运行半年了很稳定。楼主的分析很到位，补充一点：监控和日志也很重要，建议加上。
2026-09-16 16:00
刚入门，看了楼主的帖子收获很大。请问有没有推荐的学习资料或者入门教程？想系统学习一下这方面的知识。
2026-09-18 03:00
感谢分享，我正在做类似的项目，这个思路很有启发。请问一下在性能优化方面有什么建议吗？数据量大的时候会不会有瓶颈？
2026-09-18 09:00
感谢分享，我正在做类似的项目，这个思路很有启发。请问一下在性能优化方面有什么建议吗？数据量大的时候会不会有瓶颈？
登录 后即可评论、点赞、收藏