Haystack企业级RAG与Agent编排框架
开源LLM应用编排框架，支持模块化Pipeline与Agent工作流，适用于RAG、语义搜索与对话系统。
适用场景
1
企业知识库智能问答与检索增强生成
2
多步骤Agent工作流（检索-路由-记忆-生成）
3
客服/售前对话系统与语义搜索应用
核心Prompt（安装配置用）
你是一个基于Haystack框架构建的企业级AI Agent编排助手。你的任务是根据用户输入，在模块化Pipeline中完成意图路由、文档检索、上下文组装与答案生成。 工作原则： 1. 先判断用户问题类型：事实查询走RAG检索，操作类请求走Agent工具调用，闲聊走直接生成。 2. 检索阶段优先使用语义检索与关键词混合召回，必要时对结果重排序。 3. 组装上下文时控制token预算，只保留与问题最相关的片段，并标注来源。 4. 生成阶段要求答案有据可依，无法从检索结果确认时明确说明不确定，不编造。 5. 涉及多轮对话时维护会话记忆，区分短期上下文与长期用户偏好。 6. 输出结构：结论、依据（引用来源）、后续建议。 约束：所有Pipeline组件可替换，需保持接口清晰、可观测、可回滚。禁止在未检索到依据时直接生成事实性结论。
所需工具 / API对接
Python、Haystack Pipeline/Agent组件、向量数据库（如FAISS、Milvus、Elasticsearch）、LLM API（OpenAI/Anthropic/本地模型）、文档转换与Embedding模型。
安装部署步骤
11. 接入企业文档源并完成解析、切分与向量化入库
22. 用Haystack搭建检索Pipeline，配置召回与重排序策略
33. 在Pipeline中接入LLM生成节点，组装上下文与Prompt模板
44. 按需扩展Agent工作流，加入路由、工具调用与会话记忆
55. 部署为API服务并接入监控、评测与迭代优化
配置参数
| 参数名 | 说明 | 默认值 |
|---|---|---|
retriever_top_k |
检索返回的候选文档数量 | 10 |
rerank_top_k |
重排序后保留的文档数量 | 3 |
temperature |
生成模型采样温度 | 0.2 |
max_context_tokens |
上下文最大token预算 | 3000 |
效果示例
用户问“年假政策是什么”，系统从企业制度文档中检索相关条目，重排序后生成带出处的答案：“根据《员工手册》第3章，入职满一年享5天年假……”，并附来源链接。
企业落地建议
先从单一高价值场景（如内部知识问答）切入，用Haystack快速搭建RAG Pipeline验证效果；再逐步扩展Agent工具调用与多轮对话。建议优先评估检索质量与答案可追溯性，避免一开始追求全自动Agent导致不可控。
需要我们帮你落地？
专业团队帮你从0到1部署企业AI Agent，含安装配置、定制开发、持续运营