✨新特性
1. API Server支持将本地部署的embedding模型发布成embedding API并兼容OpenAI报文格式
如何使用:
# 1. at first start controller
dbgpt start controller
# 2. second start embedding model worker
dbgpt start worker --model_name text2vec \
--model_path /app/models/text2vec-large-chinese \
--worker_type text2vec \
--port 8003 \
--controller_addr http://127.0.0.1:8000
# 3. start apiserver
dbgpt start apiserver --controller_addr http://127.0.0.1:8000 --api_keys EMPTY
# 4. test
curl http://127.0.0.1:8100/api/v1/embeddings \
-H "Authorization: Bearer EMPTY" \
-H "Content-Type: application/json" \
-d '{
"model": "text2vec",
"input": "Hello world!"
}'
- AWEL Flow支持动态参数
- AWEL Flow RAG算子的
SpaceRetrieverOperator
- AWEL Flow Agent算子的
AwelAgent
- 支持Hive数据源
- 支持拷贝AWEL Flow
5. 支持谷歌轻量级大模型Gemma
🚀 性能提升
1. 知识库支持大文档上传同步,需要打开**KNOWLEDGE_MAX_CHUNKS_ONCE_LOAD**
参数进行文档同步性能提升
## Maximum number of chunks to load at once, if your single document is too large,
## you can set this value to a higher value for better performance.
## if out of memory when load large document, you can set this value to a lower value.
KNOWLEDGE_MAX_CHUNKS_ONCE_LOAD=10
- ChatExcel 读取数据优化,针对数值型、空列、特殊字符进行优化处理
🐞 Bug 修复
- 修复多轮对话bug (#1259)
- 修复scheduler shutdown bug (#1237)
- 修复 examples/awel 从model_config获取model_name问题 (#1112)
- 修复HTTP Trigger解析参数bug (#1225)
- 修复 switch strategy failed in Chinese env.
- 修复 milvus_store 删除中文知识空间bug (#1212)
- 修复默认分片策略批量同步问题. (#1196)
- 修复 sql format bug (#1199)
其他更新说明
- 更新 v0.5.1 升级文档
- 全新的AWEL教程文档 (#1245)
地址: https://docs.dbgpt.site/docs/latest/awel/tutorial
- 新增 v0.5.0 使用文档 (#1216)
地址:https://docs.dbgpt.site/docs/latest/application
✨官方文档地址
:::color2 英文
:::
:::color2 中文
:::
✨升级版本到 v0.5.1
如果你当前的版本是 v0.4.6 或者 v0.4.7, 需要先升级到 v0.5.0,然后再根据下述文档升级到 v0.5.1。
- 暂停服务
- 升级数据库表结构
USE dbgpt;
ALTER TABLE dbgpt_serve_flow
ADD COLUMN `error_message` varchar(512) null comment 'Error message' after `state`;
- 启动服务