对于已经熟悉 LLM 应用技术栈的技术人士来说，这份文档将是你了解 Dify 独特优势的捷径。让你能够明智地比较和选择，甚至向同事和朋友推荐。

特性与技术规格

在 Dify，我们采用透明化的产品特性和技术规格政策，确保你在全面了解我们产品的基础上做出决策。这种透明度不仅有利于你的技术选型，也促进了社区成员对产品的深入理解和积极贡献。

项目基础信息

项目设立2023 年 3 月
开源协议基于 Apache License 2.0 有限商业许可
官方研发团队超过 15 名全职员工
社区贡献者超过 290 人 （截止 2024 Q2）
后端技术Python/Flask/PostgreSQL
前端技术Next.js
代码行数超过 13 万行
发版周期平均每周一次

技术特性

LLM 推理引擎Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持

10+ 家，包括 OpenAI 与 Anthropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持7 家，Hugging Face，Replicate，AWS Bedrock，NVIDIA，GroqCloud，together.ai，OpenRouter
本地模型推理 Runtime 支持6 家，Xoribits（推荐），OpenLLM，LocalAI，ChatGLM，Ollama，NVIDIA TIS
OpenAI 接口标准模型接入支持∞ 家
多模态技术

ASR 模型

GPT-4o 规格的富文本模型

预置应用类型

对话型应用

文本生成应用
Agent
工作流

Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面，在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易模式编排
  • Assistant 模式编排
  • Flow 模式编排

Prompt 变量类型

  • 字符串
  • 单选枚举
  • 外部 API
  • 文件（Q3 即将推出）
Agentic Workflow 特性

行业领先的可视化流程编排界面，所见即所得的节点调试，可插拔的 DSL，原生的代码运行时，构建更复杂、可靠、稳定的 LLM 应用。

支持节点

  • LLM
  • 知识库检索
  • 问题分类
  • 条件分支
  • 代码执行
  • 模板转换
  • HTTP 请求
  • 工具
RAG 特性

首创的可视化的知识库管理界面，支持分段预览和召回效果测试。

索引方式

  • 关键词
  • 文本向量
  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词
  • 文本相似度匹配
  • 混合检索
  • N 选 1 模式（即将下线）
  • 多路召回

召回优化技术

  • 使用 ReRank 模型
ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗，内置的 Unstructured 服务开启后可获得最大化支持。

支持同步来自 Notion 的文档为知识库。
支持同步网页为知识库。

向量数据库支持Qdrant（推荐），Weaviate，Zilliz/Milvus，Pgvector，Pgvector-rs，Chroma，OpenSearch，TiDB，Tencent Vector，Oracle，Relyt，Analyticdb, Couchbase
Agent 技术

ReAct，Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具
  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 40+ 款（截止 2024 Q2）
日志支持，可基于日志进行标注
标注回复基于经人类标注的 Q&A 对，可用于相似度对比回复
可导出为供模型微调环节使用的数据格式
内容审查机制OpenAI Moderation 或外部 API
团队协同工作空间与多成员管理支持
API 规格RESTful，已覆盖大部分功能
部署方式Docker，Helm