企业ai模块
通用介绍——
https://www.isoftstone.com/zh-cn/htmls/news/20240119/1744595601247117312.html
软通天璇MaaS平台2.0作为软通**AI**训推一体化平台的关键组件，通过联接、融合主流厂商大模型和开源模型，能够为用户提供多种交互式AI模型，提供一站式按需调用的便捷能力，同时帮助用户更好地使用大模型。软通AI训推一体化平台集成了华为昇腾AI基础硬件，整合了天鹤OS操作系统、AI中台，虚拟化平台等，支持一站式AI开发，具备超强算力、能效，保证多样算力集成及安全启动等核心优势。 软通天璇MaaS平台2.0在对外经济贸易大学数字经济实验室已落地启用。基于AI硬件底座及通用大模型本地私有化部署，打造金融行业大模型及数字经济AI分析助手，已实现自动批量提取经济新闻、热点、事件等关键信息并导出提取结果，可快速构建系统化数据库，并通过模拟人工操作以实现流程自动化，显著提升科研效率。 同时，软通动力还发布了天璇AI Copilot数字员工平台、软件开发大模型AISE等多款大模型平台及产品，与客户共同创新，联手研发智能财险、智能司库、智能软件开发测试、智能法律案件分析等多种基于AIGC的行业及专业解决方案。+AI面试，个人无法用、对企业
首发于TechECR
写文章
天璇2.0：点亮大模型应用落地的“北极星”
研究IT产业18年，常年保持对ICT企业、IT方案商、IT渠道商保持高频度采访。
关注
“天璇”，在古代中国被称为“天上的关键”。从“天璇”通过“天枢”向外延伸，五倍延长线上就是“北极星”。北极星靠近天空正北的方位，位置几乎不变，千百年来人们靠它的星光来导航。 天璇 AI Copilot 引擎的命名，就是希望以此寓意，为大模型应用落地提供关键支撑，引领AI场景创新。进一步夯实软通动力AI应用领域引领者的定位。智能化是数字经济提效的加速器，软通动力将通过在AI领域的持续探索和深耕，助力我国数字经济高质量发展。
从兴奋，到焦虑，再到兴奋
ChatGPT问世的半年中，科技产业经历了从兴奋，到焦虑，再到兴奋的过程。ChatGPT发布的头两个月，累计用户就已超过1亿。尤其是首批用户在与ChatGPT对话后，大多表现出男孩子第一次拿到变形金刚一样的兴奋。
软通动力的AI之路
就像蒸汽机之于蒸汽时代，发电机之于电力时代，计算机之于信息时代，“大模型”代表了这个时代最先进的生产力。任何不想掉队的企业，都希望能用上，或者都能拥有自己的企业“大模型”。软通动力身处其中，也逐渐形成了全新的业务定位——希望成为大模型运营服务商，希望联合生态伙伴共同推动多模态大模型产业落地。这也是推出软通天璇2.0 MaaS大模型运营平台，推动元乘象ChatImg2.0落地的初衷。早在2013年，软通动力就已启动“软通智核”的研发，这是一款面向自然语言处理的人工智能技术平台；后续基于软通智核，软通动力又推出高精准度对话机器人Rglam（安歌），并已广泛应用于银行、保险、证券、汽车、电商等诸多领域。更进一步，软通动力推出“软通天璇”AI Copilot引擎，而在此1.0版本的基础上，软通动力又快速迭代推出三层架构的软通天璇2.0 MaaS大模型运营平台，各项能力也均实现了显著的提升。
大模型运营服务商
很多人说，在“大模型”时代所有应用也都值得重做一遍。其实，为企业提供大模型运营服务，所有的功能引擎、行业引擎也值得重做一遍。这也就有了全新三层架构的软通天璇2.0 MaaS平台。 01 大模型技术底座 在L0级（大模型技术底座）中，除了加入了升级的软通训推一体化平台，软通动力还扩展了包括微软、阿里、百度和元乘象ChatImg2.0在内的大模型接入，以及深入研究了全球各类开源大模型。 这就代表了软通动力的两个认识：在“大模型”时代，模型的训练调优具有巨大的价值，基于此，软通动力推出了升级版的“软通训推一体化平台”；在“大模型”时代，商业大模型和开源大模型并行是必然，基于此，软通动力一直在努力降低接入大模型的复杂度。一方面，在“大模型”高速发展中，业内可能会有误解，误解为“大模型”就能胜任一切。其实不然，在大模型行业落地中，需要用到fine-tuning或者Embedding等方式进行行业特性的调优，而模型调优具有轻量级、高效率、易于部署等优点，因此它们的训练和推理速度相对较快。这使得模型调优在实时性要求较高的场景下具有优势。软通动力就是看重了这些特点，持续研发升级“软通动力训推一体化平台”。最新一代产品，已基于昇腾硬件底座+昇思MindSporeAI框架，采用软通G420K训练平台和软通G210K推理平台，整合软通动力欧拉操作系统等组件，搭载自有AI中台，为用户提供多种交互式AI模型，深度适配不同AI应用场景，支持自然语言、计算机视觉、语音、视频等多模态场景，提供了涵盖AI训练、AI测评、AI部署的一整套端到端的安全可信体系 ，引领企业智能变革，重点面向央国企、教育科研、金融等多行业多领域。另一方面，在“大模型”领域，软通动力也相信，就像中国企业对公有云和私有云的态度，同样基于多方面的考虑，中国企业既会选择直接接入商用大模型，也会选择基于开源大模型部署本地化的服务。基于上述考虑，软通动力已与微软合作接入Azure云 GPT4。同时，软通动力也是百度文心一言、阿里通义千问、元乘象ChatImg2.0的生态合作伙伴，并深入研究着ChatGLM、DeepSpeed Chat、OpenAssistant、Alpaca、LLaMA等开源“大模型”，其中，软通动力与智子引擎合作，正在共同推动元乘象ChatImg2.0应用落地。ChatImg2.0发布时就在行业引发热烈反响。根据多模态对话数据集（LLaVa）的公开评测，其中文和英文的多模态对话能力均领先于LLaVa、MiniGPT4等开源模型，而且ChatImg2.0在应用场景的探索上走在行业前列。当然，“大模型”的底座中不仅是有元乘象ChatImg2.0。为了提供高质量、可靠、安全的大模型服务，软通天璇2.0已最新推出“大模型API接口平台”。平台可对接各类商用大模型和开源大模型，将不同规格的API，转化为统一的接口格式，并应用于企业的业务流程和应用场景，降低大模型应用的复杂性。 02 行业大模型及管理 在“大模型技术底座”之上，即是软通天璇2.0平台的L1级（行业大模型及管理）。这也是“大模型”行业落地的关键，其包括软通动力行业模型管理平台（iSS Model Ops Platform）和软通动力应用开发平台（iSS Model Dev Tools）。 软通动力行业模型管理平台可为客户提供大模型的数据处理、继续训练、调优、部署、推理和数字资产管理服务。也就是说，企业可基于商业大模型或开源大模型，并引入私有数据，训练和部署本地化的企业大模型，而软通动力则将提供端到端服务。软通动力应用开发平台则包括可用于大模型应用开发的孪生Modeling引擎、工程引擎（RCT）、应用接口平台。其中，孪生Modeling引擎所提供的服务采用预训练模型，仅需较少的数据与计算资源，结合业务机理，即可构建多模态工业仿真模型，以满足如产品缺陷检测、工业巡检等任务的需求，实现业务场景下的精准仿真推演。还可以利用大量的历史和实时数据，对工业设备和生产过程进行高精度的建模。 03 场景大模型应用 在“行业大模型及管理”之上，则是软通天璇2.0平台的在L2级（场景大模型应用），其中，软通动力场景Plugin应用服务平台（iSS Model Plugin Store），定位很像是云计算中的APaaS层，通过把法律、招聘等方面的积累和应用打包成Plugin，场景Plugin应用服务平台为客户提供专业服务。AI应用领域的引领者
除L0级（大模型技术底座）、L1级（行业大模型及管理）、L2级（场景大模型应用）之外，大模型一站式运营服务和数据治理及安全服务也必不可少，而以上五要素，就共同构成了软通天璇2.0 Maas平台。这也就是软通动力正在提供的大模型运营服务。当然，进入“大模型”时代，软通动力还将持续加码技术研发，持续引入高端AI领军人才。“多模态大模型产业高峰论坛”期间，软通动力举行聘任仪式，卢志武教授正式受聘为软通动力首席AI科学家。卢志武是中国人民大学高瓴人工智能学院教授、博士生导师，是机器学习和计算机视觉领域的专家，曾设计首个公开的中文通用图文预训练模型文澜 BriVL。相信，在卢志武教授等AI领军人才的加持下，在软通天璇2.0 Maas平台的支撑下，软通动力将快速推动多模态大模型技术的应用和发展。成为AI应用领域的引领者，也因此正在成为软通动力接下来的核心战略方向之一。发布于 2023-07-09 23:40・IP 属地北京
内容所属专栏
TechECR
以生态合作为视角，研究IT产业18年。
订阅专栏
赞同添加评论
分享
喜欢收藏申请转载
还没有评论，发表第一个评论吧
推荐阅读
OKR、平衡计分卡BSC和北极星NorthStar结合的威力Tita发表于OKR应用…产品最重要的指标——北极星指标NSM紫川君发表于产品设计星…你必须知道的“北极星指标” ！jinzh…发表于数据分析学…北极星你必须知道的10个知识你好太空
若有收获，就点个赞吧
0 人点赞
