变体(Variants)

变体是指具有不同设置的工具节点的特定版本。目前,变体仅在 LLM 工具中受支持。例如,在 LLM 工具中,新的变体可以表示不同的提示内容或不同的连接设置。

假设您想要生成一篇新闻文章的摘要。您可以设置不同的提示和设置变体,如下所示:

变体 提示 连接设置
Variant 0 Summary: {{input sentences}} Temperature = 1
Variant 1 Summary: {{input sentences}} Temperature = 0.7
Variant 2 What is the main point of this article? {{input sentences}} Temperature = 1
Variant 3 What is the main point of this article? {{input sentences}} Temperature = 0.7

通过使用不同变体的提示和设置,您可以探索模型对各种输入和输出的响应方式,从而找到最适合您需求的组合。

使用变体的好处

  1. 提高LLM生成的质量: 通过创建相同LLM节点的多个变体,这些变体具有不同的提示和配置,您可以确定产生与您需求对齐的高质量内容的最佳组合。

  2. 节省时间和精力: 即使对提示进行轻微修改,也可能产生明显不同的结果。跟踪和比较每个提示版本的性能至关重要。使用变体,您可以轻松管理LLM节点的历史版本,便于基于任何变体进行更新,而无需担心忘记之前的迭代。这样可以节省您在管理提示调整历史记录方面的时间和精力。

  3. 提高生产力: 变体简化了LLM节点的优化过程,使创建和管理多个变体变得更加简单。您可以在更短的时间内获得改进的结果,从而提高整体生产力。

  4. 方便比较: 您可以轻松地将来自不同变体的结果进行并排比较,从而使您能够基于生成最佳结果的变体做出基于数据的决策。