百度的大模型插件，打工人的救星？

文 | 周鑫雨

编辑 | 邓咏仪

2023 年 8 月 16 日的百度 2023WAVE SUMMIT，构建大模型开发生态的方法论，代替模型本身成了主角。

总体而言，如今百度基于文心大模型的应用落地尝试，是把微软的路子再走了一遍：针对生产力场景发布配套插件和 Copilot，同时建设基于云的开发者生态。

比如新发布的 5 款插件，对应的是 Bing 和 ChatGPT 接入的近 70 款插件；推出的插件开发工具集和 AI 应用开发套件 Comate   Stack，对应的是 Copilot   Stack；上线超级助理等插件的百度智能办公平台 " 如流 "，对应的是接入 Copilot 的 Teams。

旺盛的市场需求和处于高速迭代期的大模型技术，两者构成了大模型落地应用的主要矛盾——客户们急于用大模型提高生产效率，但尚在发展阶段的模型技术迭代速度快，大模型应用落地，首先要面对高昂的迭代成本。

不少厂商找到的解决方案是：插件化。

相较于传统的应用开发流程，插件无需开发一整套完整系统，通过接口就能提供服务，且易于修改和更新。在某种意义上，插件是 AI 应用创新的最佳载体。

基于这一思路，百度在 2023WAVE SUMMIT 上，围绕着 " 插件 "，做了从自研，到开发者社区建设，再到落地工作场景的一系列尝试。

生态建设，是百度强调的另一个重点。

随着大模型发展的进度条从研发快速拉到落地阶段，开发者面对的是愈发复杂的产业链条，落地应用也对上下游、软硬件的协同提出了较高的要求。

作为基础设施提供者，百度对飞桨开源框架在大模型训练、推理、硬件适配等方面进行了迭代升级，将文心大模型 3.5 的训练速度提升至 3 倍，推理速度提升了 30 多倍。其目的在于聚集产业链各环节的开发者，基于大模型基座和云平台进行开发生态的建设。

百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜认为，" 经历半年的时间，我觉得整个行业的角色分工会逐渐明朗。"

" 文心一言 " 叠加制图 Buff，接入 5 个百度自研插件

除了在 8 月 2 日的文心千帆大模型平台媒体圆桌会议上发布的 " 百度搜索 " 和 " 览卷文档 "（原 ChatFile），此次百度还在文心一言上推出了 "E 言易图 "" 说图解画 "" 一镜流影 " 三款 AIGC 插件，分别应用于图表生成、图片生成理解、视频生成场景。

文心一言使用 " 览卷文档 " 插件解读文档。图源：百度

文心一言使用 "E 言易图 " 插件将文档中的数据生成饼状图。图源：百度

不过，由于能耗较高，视频生成插件 " 一镜流影 " 的内测尚未全面进行。未来，文心一言将开放给更多第三方插件。

飞桨 " 卖水 "，推出大模型插件开发平台

以 5 个自研插件作为开端，百度更想做的，是建立起链接上下游的完整开发者生态。

吴甜认为，目前已经到了建设开发者生态的时机：" 一方面，我觉得核心技术系统本身的成熟度要足够，才能去支撑生态的建设，文心一言已经到了这个阶段；另一方面，生态最大的作用是让应用更加繁荣。"

依托于 " 文心一言 " 的模型能力，百度面向开发者上线了大模型插件开发平台。平台提供了插件开发工具集（ERINE Bot   SDK），可以支持信息服务类、工具类、基于 LLM 的创新类的插件的研发。

ERINE Bot   SDK。图源：百度

与此同时，飞桨 AI Studio 此次推出了星河大模型社区。这就好比国产版的微软 Azure AI Studio，百度作为大模型应用的 " 卖水人 "，为开发者提供开发、部署、市场推广等流程服务。

星河大模型社区。图源：百度

在 " 如流 " 上，做提高生产力的文章

什么是 AI 时代的 " 杀手级 " 应用？目前业界或许没有定论。但发展 AI 原生（AI Native）应用是 " 杀手级 " 应用的基础，愈发成为共识。

所谓的 AI 原生应用，简单理解就是离开 AI，就无法提供核心能力的应用——这对开发者无疑提出了更高的要求：对原有应用进行简单迭代是不够的。

在 2023WAVE SUMMIT，百度交出的原生 AI 答卷，点的是重塑生产力的题。在百度智能工作平台 " 如流 " 上，百度推出了 " 超级助理 " 和 "Comate X 智能编程助手 "。

" 超级助理 " 的功能类似于此前阿里发布的钉钉魔法棒和飞书发布的 AI 助手 "My AI"，可以基于用自然语言输入的需求，完成文档处理、聊天内容查找、信息发送等任务。

" 超级助理 " 完成差旅安排。图源：百度

" 超级助理 " 可对文档进行分析。图源：百度

同理，辅助编程的 Comate X 也是基于自然语言描述，生成能实现相应功能的代码片段。目前，Comate X 支持 30 多种语言和 10 多种 IDE（集成开发环境）。

针对 AI 原生应用的开发，百度也建立了开发者生态。此次推出的 AI 原生应用开发套件 Comate Stack，为开发者提供了评测平台 iEValue、AI 应用开发平台 IPlayground 和数据集托管平台 iDateSet。

值得一提的是，在 Comate Stack 上进行 AI 应用开发，自然语言依然是人机交互的界面。比如开发可以执行休假政策的插件，只需要设置 Prompt、编排流程两步。

AI 应用开发平台 IPlayground 支持 2 步生成 AI 插件。图源：百度

AI 应用上线如流，意味着目前两款生产力工具只有百度员工和几家大 B 客户能够使用。但与此同时，这也是如流积极商业化的信号。

百度集团副总裁、百度集团首席信息官李莹介绍，以超级助理和编程工具链为切口，接下来如流也会加大商业推广力度。

查看原文