智能客服难点思考复盘（上）

挑战：

多轮对话上下文的精准维护

• 用户常在多轮对话中切换意图（如先问“退货政策”，再问“我的订单123456如何操作”），传统方案因上下文丢失导致答非所问。
• 初期测试中，连续提问的准确率仅65%，用户体验差。

解决策略：

1.上下文分层管理：

• 短期记忆：储最近3到5轮的对话内容，保持对话的流畅性，快速响应用户的问题。
• 长期记忆：关联用户历史订单、服务记录，构建用户画像（如“高频退货用户”），动态调整回复策略。

上下文分层管理实现机制：

• 使用数据库或内存存储（如 Redis）来维护这些上下文信息。
• 短期记忆存储的内容可以通过实时更新和过期策略（如每5分钟清理不活跃的对话）来管理。
• 长期记忆则基于用户的账户信息、历史记录等动态更新，保持更新频率可以相对较低，但需要确保数据的准确性。

2.意图继承机制：

若用户未明确提及意图，默认继承上一轮对话主题。这种机制特别适用于用户对话过程中没有显式改变话题的场景，比如用户在多个问题之间来回询问相同主题的信息（如订单状态、退货等）。

• 用户：“退货需要多久？” → 客服：“一般3-5个工作日。”
• 用户：“订单123456呢？” → 系统自动关联上一轮“退货”意图，查询该订单的退货进度。

意图继承机制实现机制：

• 上下文追踪：在对话管理系统中，通过上下文ID来追踪当前对话的意图。当用户发起新问题时，系统会查看上一轮对话的意图并决定是否继承。
• 状态机模式：每个对话状态可以映射到一个特定的意图，例如“查询订单状态”、“申请退货”等。系统通过分析用户问题是否与上一状态相关来自动继承意图。
• 意图匹配与推理：系统需要具备意图匹配算法，能识别用户当前提问是否与上一轮话题有关，若不相关，则识别新意图并进行转接。

--------------------------------------------技术架构建议----------------------------------------

NLP与意图识别：

第一步：构建企业知识库

• 收集和整理AI问答助手需要的内部知识文档。
• 将文档上传至知识库，并且在知识库先进行初步测试。当输入完整的问题时，可以准确搜索到问题相关的知识片段。

第二步：利用大语言模型组件，分别构建“问题回复专家”和“问题优化专家”

这个步骤中最重要的是梳理好业务逻辑，写好prompt。

• “问题回复专家”，需要体现出“互动式”沟通的诉求：不着急回答用户的问题，先判断知识库搜索的结果是否能直接回答用户的问题。如果无法直接回复，则需要先反问用户具体的需求。
• “问题优化专家”，需要体现出“问题补充”的要求：需要结合上下文来优化用户最新的问题。如果根据上下文判断，用户问题已解决，则输出“已解决”。如果用户问题已经清楚了，则直接输出原始的问题。考虑到用户的问题并不是一次性就表达清楚的，因此利用上下文来优化用户的问题，继而提高后续的知识库搜索效率。

第三步：基于第二步的设计，构造一个完整的AI工作流

• 输入：上下文内容 + 用户最新的问题
• 输出：“问题优化专家”对用户最新问题的回复

第四步：将搭建好的AI工作流，整合进一个AI智能体，实现循环对话

• 要创建一个变量用于存储用户和AI的对话内容，每次沟通都将上下文内容（历史记录）给到“问题回复专家”和“问题优化专家”，从而确保专家知道上下文情况。
• 构建一个循环，无论用户问什么都会带上过去的历史记录

第五步：测试多轮对话