dify 1.13.0——Human-in-the-Loop与工作流执行架构全面升级,释放AI与人的
dify 1.13.0——Human-in-the-Loop与工作流执行架构全面升级,释放AI与人的协作潜力
一、核心特性:Human-in-the-Loop (HITL)
Dify 1.13.0 最大的创新在于引入了 Human Input 节点,这是一个革命性更新,让人类输入成为工作流原生组成部分。此前的工作流往往只能在“自动化”或“手动执行”两种模式之间切换,对于需要人工判断的高风险场景,这种二元结构显得捉襟见肘。而 HITL 的引入,弥合了这种“信任鸿沟”,让自动化流程具备人工纠偏能力。
1. 背景说明
以往工作流要么完全由 AI 自动执行,要么依赖人工操作,这导致在涉及关键业务判断的场景中,难以平衡 AI 的效率与人工的可靠性。现在,Dify 支持将人工审核步骤直接嵌入工作流执行图中,实现真正的智能协作。
2. 核心功能
(1)原生工作流暂停机制
在流程关键节点插入“Human Input”节点,工作流即会暂停,等待人工输入。这对于涉及敏感决策或需人工校验的数据场景尤为必要。
(2)人工审核与编辑
暂停后系统会生成可视化界面,人工可审阅 AI 输出内容,修改关键变量(如草稿、数据结果等),再继续执行流程,从而保证精准度。
(3)操作路由控制
可配置自定义按钮,如“批准”、“拒绝”、“升级处理”等,用于决定后续工作流路径。不同操作对应不同的逻辑分支,实现高度灵活的决策流。
(4)多渠道输入方式
人工输入表单可通过 Web 应用或邮件推送形式完成。在云环境下,邮件方式可能受订阅计划或功能设置影响。
二、架构更新:支持暂停和恢复的工作流机制
为支持 HITL 所需的状态化暂停与恢复机制,Dify 对执行引擎进行了全面重构。
1. 执行架构变化
• Workflow-Based Streaming Executions 和 Advanced Chat Executions 现均由 Celery workers 执行。
• 非流式的工作流运行仍在 API 进程中处理。
• 所有暂停/恢复路径(包括 HITL)均通过 Celery 恢复执行,事件流式返回经由 Redis Pub/Sub 实现。
2. 大规模部署及自托管建议
Dify 引入了新的 Celery 队列:workflow_based_app_execution。标准部署模式可直接使用,但对于高并发、高吞吐环境,官方建议进行如下优化:
• Scale Workers(扩展 Worker 数量):根据工作负载增加对该队列的 Worker。
• Dedicated Redis(专用 Redis 实例):大规模部署推荐配置 PUBSUB_REDIS_URL 指向专用 Redis;使用 Redis Cluster 模式结合分片 PubSub,可实现水平扩展与稳定高性能。
#大模型# #福大大架构师每日一题#
一、核心特性:Human-in-the-Loop (HITL)
Dify 1.13.0 最大的创新在于引入了 Human Input 节点,这是一个革命性更新,让人类输入成为工作流原生组成部分。此前的工作流往往只能在“自动化”或“手动执行”两种模式之间切换,对于需要人工判断的高风险场景,这种二元结构显得捉襟见肘。而 HITL 的引入,弥合了这种“信任鸿沟”,让自动化流程具备人工纠偏能力。
1. 背景说明
以往工作流要么完全由 AI 自动执行,要么依赖人工操作,这导致在涉及关键业务判断的场景中,难以平衡 AI 的效率与人工的可靠性。现在,Dify 支持将人工审核步骤直接嵌入工作流执行图中,实现真正的智能协作。
2. 核心功能
(1)原生工作流暂停机制
在流程关键节点插入“Human Input”节点,工作流即会暂停,等待人工输入。这对于涉及敏感决策或需人工校验的数据场景尤为必要。
(2)人工审核与编辑
暂停后系统会生成可视化界面,人工可审阅 AI 输出内容,修改关键变量(如草稿、数据结果等),再继续执行流程,从而保证精准度。
(3)操作路由控制
可配置自定义按钮,如“批准”、“拒绝”、“升级处理”等,用于决定后续工作流路径。不同操作对应不同的逻辑分支,实现高度灵活的决策流。
(4)多渠道输入方式
人工输入表单可通过 Web 应用或邮件推送形式完成。在云环境下,邮件方式可能受订阅计划或功能设置影响。
二、架构更新:支持暂停和恢复的工作流机制
为支持 HITL 所需的状态化暂停与恢复机制,Dify 对执行引擎进行了全面重构。
1. 执行架构变化
• Workflow-Based Streaming Executions 和 Advanced Chat Executions 现均由 Celery workers 执行。
• 非流式的工作流运行仍在 API 进程中处理。
• 所有暂停/恢复路径(包括 HITL)均通过 Celery 恢复执行,事件流式返回经由 Redis Pub/Sub 实现。
2. 大规模部署及自托管建议
Dify 引入了新的 Celery 队列:workflow_based_app_execution。标准部署模式可直接使用,但对于高并发、高吞吐环境,官方建议进行如下优化:
• Scale Workers(扩展 Worker 数量):根据工作负载增加对该队列的 Worker。
• Dedicated Redis(专用 Redis 实例):大规模部署推荐配置 PUBSUB_REDIS_URL 指向专用 Redis;使用 Redis Cluster 模式结合分片 PubSub,可实现水平扩展与稳定高性能。
#大模型# #福大大架构师每日一题#
全部评论
相关推荐
点赞 评论 收藏
分享