如何创建应用调用大模型能力

我的收藏

创建应用操作说明

1. 新增应用

2.选择应用模型配置

说明

参数配置说明

温度系数：调控生成的多样性。

最长回复长度：模型生成的长度限制，不包含prompt。允许的最大长度因模型不同有所改变。

携带上下文轮数：设置输入模型的最大历史对话轮数，轮数越多，对话相关性越强。

prompt优化：针对输入的prompt进行专业优化，使模型更容易理解指令。

知识检索增强：开启后可通过指定知识库检索对应文档内容。

长期记忆：长期记忆功能是针对终端用户提供的一项个性化功能，系统将根据对话历史自动生成终端用户画像，并根据用户画像回答最新问题，从而实现个性化回复。当您打开长期记忆功能后，系统自动将相应的system prompt添加到上方的Prompt编辑框中。

选择插件：官方提供4款预置插件，结合增强大语言模型的规划调度能力和生成能力，更好地在您的业务场景中落地。本次以插件能力为例，选择计算器、python代码解释器能力。

4. 测试

5. 更新应用设置

创建干预话术规则

• 规则名称：支持中英文、数字，最多支持20字符；
• 规则条件：默认为空，点击“新增条件”按钮，选择所需的条件类型。 - 注意：干预输入话术支持关键词、正则表达式、语义意图三种类型； - 干预生成结果仅支持关键词一种类型； - 关键词：新建条件后，默认为“包含”，最多支持输入50个关键词； - 正则表达式：新建条件后，默认为“包含”，最多支持输入10个表达式；配置方法参考正则表达式配置。 - 语义意图：新建条件后，默认为“包含”，最多支持输入10个相似语句。
• 回复话术：支持干预回复内容，并调整为回复话术，支持中英文、数字，最多支持500字符。
• 规则新建完成默认为“已禁用”状态，需要用户手动开启该规则。

6. 调用

阿里云百炼支持API接口调用，点击调用即可获取到API详细信息。

如何测试应用

我的收藏

测试步骤

步骤一：测试前做好配置检查

• 点击了解如何选择应用

页面布局

步骤三：开始调试

重新生成按钮就是在原输出区域重新生成答案进行覆盖，不会将重新生成前的内容带入上下文中。

步骤四：测试完毕，验证结果

模型思考过程（应用Debug过程）解析

第一次思考过程：决策

①理解用户意图

②明确API所需参数

③识别参数的取值

④明确后续需求

⑥执行决策计划

第二次思考过程：判定结果是否符合预期

思考过程:
[Step: 理解用户意图] 用户想要查询两个地点的距离，为此需要调用searchAmap。
[Step: 明确API所需参数] searchAmap的必选参数有：出发地名称、目的地名称，可选参数为空。
[Step: 识别参数的取值] 从对话内容中，可以识别到的参数及其取值：出发地名称=杭州，目的地名称=北京。
[Step: 明确后续需求] searchAmap的所有必选参数都已知，不需要再询问。
[Step: 确定后续计划] 可以调用searchAmap了。
执行插件：路径规划
输入参数
{
"originPlace": "杭州",
"destinationPlace": "北京"
}
输出参数
{
"data": {
"distance": "1245711",
"duration": "46708"
 },
"status": "SUCCESS"
}
思考过程： 可以根据返回结果回答了。
结果内容： 从杭州到北京的距离是1245711米，预计需要46708秒。

上一篇：如何创建应用调用大模型能力下一篇：如何快速调用官方预置应用-RAG检索增强应用模板