DAG编排规划

这里我们来看一个稍微复杂一些的有分叉任务的多轮对话编排的例子。 首先我们跟前面的案例一样,首先进行编排规划。 多轮对话的例子相对复杂,所以步骤也会更长,具体会分为如下步骤:

  • 发起Http请求
  • 请求内容处理
  • 前置对话处理,并缓存
  • 最近K轮历史会话记录
  • 开始模型对话
    • 基于流的对话
      • 后置对话处理
      • 模型输出结果解析
    • 非流的对话
      • 后置对话处理
      • 模型输出结构解析
  • 对话内容合并

用图表表示

画板