大模型概述

星火交互认知大模型是传统语义交互的升级，解决了多轮效果弱、闲聊能力差等问题的同时保留了传统语义的信源内容优势。

大模型 - 图1

星火交互认知大模型支持sdk及webSocket接入，协议与传统语义不同，升级前请仔细阅读

大模型使用问答手册

AIUI星火交互认知大模型使用问答手册

目 录

  1. 大模型链路示意图
  2. 主要结果解析说明
    payload.cbm_intent_split（已取消）
    payload.cbm_tidy
    payload.cbm_semantic
    payload.nlp
    payload.tts
  3. 自定义参数使用
  4. 个性化参数使用
  5. 落域判断
  6. 风格化回复使用
  7. 分段合成
  8. 常见问题解答

1. 大模型链路示意图

大模型 - 图2

2. 主要结果解析说明

注意：
大模型结果的text字段需要base64解码，示例是解码后的结果

7. 分段合成

aiui平台的应用中配置开启合成，一次交互云端会基于nlp结果文本进行合成，下发音频流。注意：全链路合成现阶段仅支持下发音频流数据，不支持下发url。 分段合成主要是在本地对nlp结果进行主动合成时的一种处理策略：
1、nlp结果字句切分：先拼接合成文本，在根据标点符号“，。；！？：”进行切分，获取字句。
2、最小合成长度判断：当切分的字句长度不低于设置的长度时，进行主动文本合成；如不满足，则拼接在下一条字句再次进行判断，依次循环。当前如果已经是最后一条字句，那就直接合成。

8. 常见问题解答

  • AIUI平台的星火交互认知大模型和讯飞开放平台的星火大模型有什么区别
AIUI平台星火交互认知大模型是以星火通用大模型为底座，在人机交互场景下对知识问答、闲聊类做定向训练，提升交互效果。当然大模型在后续的迭代中也会开放更多能力。
  • AIUI星火交互认知大模型如何配置
在AIUI应用下配置中，打开语义理解，然后选择星火交互认知大模型即可，详细见下图:
大模型 - 图3 + 为什么老应用无法切换到星火交互认知大模型？ AIUI平台升级了大模型，AIUI应用（2022-06 月份以后创建的应用）信息新增 APISECRET 字段。无法切换的原因有：
1、AIUI应用属于老应用，应用信息下没有 APISECRET 信息，无法切换。 — 建议新建应用接入。
2、支持切换的应用由于有过通用链路的服务授权，无法切换。 — 建议新建应用接入或联系商务沟通。
  • AIUI星火交互认知大模型如何收费？
每天免费提供500次交互次数、20万大模型token；如果需要正式商用申请更多交互次数和token，可以邮件aiui_support@iflytek.com申请或联系讯飞商务直接申请。
  • 大模型接入方式有哪些？
支持SDK和API两种方式接入：SDK版本需要为 6.6.xxx 以上版本，支持android、windows、Linux、ios；API对接的websocket协议也是新接口，不能与原来的通用语义链路websocket协议混用。 
  1. 另外需要注意：大模型链路websocket协议是长链接，即在一次链接中可以持续不断的进行不同交互。端侧需要控制每次请求的stmid参数取值更改。超过一分钟无交互，云端自动断开。
  • AIUI星火交互认知大模型链路和通用语义链路可以来回更改吗？
在测试阶段（没有正式授权添加服务次数）支持任意切换，不过需要注意：端侧集成需要相应做对接方式切换。
  • 不同情景模式可以配置不同的交互链路吗？
支持，例如A情景用通用语义模型，B情景选择大模型。不过AIUI平台建议在正式商用应用上，单个应用做单一能力配置选择，减少授权问题排查难度。
  • 通过SDK接入端侧可以做动态交互链路接入切换吗？
不支持。SDK初始化后交互链路就已经固定了，做交互链路切换需要销毁对象重新加载新的配置文件初始化。
  • 大模型是否还支持原来的技能配置？
支持。后期规划下线部分通用知识工具类技能，如计算、时间等，由大模型进行内容生成回复。
  • 新增的文档问答怎么使用或本地的知识文档如何对接大模型？
在技能工作室 –> 我的问答库 下创建文档问答，按照格式要求上传文档，平台服务会进行知识点拆分解析，等解析完成后点击构建发布。这样一个问答库就构建好了，页面右侧栏也提供体验对话入口，可以结合展示的知识点拆分做修改，如给相关内容加上问题描述。最后配置到AIUI应用下语义理解中进行配置。
  • 文档库中上传的内容包含图片，怎么在交互中获取？
此模块（cbm_knowledge）默认未开放，如需要请联系aiui_support@iflytek.com 或商务申请。
  • AIUI星火交互认知大模型链路有并发限制吗？
默认 3 qps，正式合作联系商务增加qps。
  • 大模型链路中用户个性化数据如何上传？
开发中，完成后会更新开发文档