文心一言推理效率提升10倍，算力成本降低90%

专注AIGC领域的专业社区，关注GPT-4、百度文心一言、华为盘古等大语言模型（LLM）的发展和应用落地，以及国内LLM的发展和市场研究，欢迎关注！

近日，澎湃新闻记者获悉，百度智能云于25日召开了文心一言的技术交流会，会上表示，文心一言开启内测一个月以来，已完成4次技术版本升级，相较最初版本推理效率提升了10倍，模型算力利用率提升了1倍，在模型性能和成本上实现了大幅优化，大模型推理成本降为原来的十分之一。

在企业服务方面，3月底开始，百度智能云大模型平台启动首批企业内测，目前已经与不同领域客户联合研发，在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。未来将针对不同客户和开发者的需求，提供公有云服务、私有化部署两种服务模式。百度智能云的六大智能产品系列，也将基于文心一言全面升级，未来将在安全评估完成后上线。

百度智能云AI与大数据平台总经理忻舟表示，百度智能云大模型平台，不仅提供文心一言大模型服务，还支持各类第三方大模型，未来将成为大模型生产和分发的集散地。

百度将具体基于云服务如何提供服务？

据悉，在公有云服务方面，百度智能云大模型平台将提供：推理（直接调用大模型的推理能力）、微调（通过高质量精标业务数据，高效训练出特定行业的大模型）、托管（将模型发布在百度智能云，以实现更加稳定高效的运行）三种服务，大幅降低企业部署大模型的门槛。

在私有化部署方面，支持软件授权（提供在企业环境中运行的大模型服务）、软硬一体（提供整套大模型服务及对应的硬件基础设施）两种方式。私有化部署能够满足对数据监管有严格要求的企业客户需求。

在技术交流会上，忻舟现场演示了百度智能云大模型平台与不同行业客户联合研发的内测demo。

以石墨文档为例，在接入文心一言内测后，石墨文档研发出多个快速创作功能，辅助用户高效办公。AI助手“石小墨”能够快速生成简历、合同、故事等各种内容。比如起草合同，用户只需给出简单诉求，1分钟就能完成一份条款清晰的合同初稿。

在智能办公领域，忻舟现场演示了文心一言制作PPT的内测功能，只需简单提出需求，文心一言就能自动生成内容，设计排版，并可根据要求持续调整优化。未来仅需3分钟就可以做出来一份格式精美、内容丰富的PPT。

大模型和生成式AI的技术突破，使得全球性的“AI再造”拉开序幕，甚至是一开场就进入了白热化的态势。百度董事长兼CEO李彦宏曾在百度的财报电话会上表示，文心一言将根本性地改变云计算市场的游戏规则。李彦宏也多次在公开场合表示，大模型时代将产生三大产业机会，第一类是新型云计算公司，第二类是进行行业模型精调的公司，第三类是基于大模型底座进行应用开发的公司，即应用服务提供商。

为何文心一言的故事在云计算？百度智能云总裁沈抖3月底曾向澎湃新闻记者表示，如果将文心一言想象成一个类似于智能手机iPhone的操作系统，那它的潜在应用空间是巨大的，“百度不可能把终端的用户场景全部包了自己做，这不现实，百度做To B，百度的客户做To C，把智能底座开放出来，让更多企业用百度的产品去服务属于他们的C端用户。”

值得关注的是，在云计算市场，除百度外，另一具有竞争力的玩家阿里云于今日宣布了其史上最大规模降价，核心产品价格全线下调15％至50％，存储产品最高降幅达50%。阿里云方面表示，此次降价，将进一步扩大公共云的用户基数和规模，提升云计算的市场渗透率。本月稍早前，阿里云发布了通用大模型产品“通义千问”，已有20万企业用户申请接入通义千问测试。

本文来源澎湃新闻，如有侵权请联系删除

END