百度：文心一言推理效率已提升10倍
百度：文心一言推理效率已提升10倍中国互联网巨头百度称，其旗下开发的聊天机器人“文心一言”开启内测一个月来，完成四次技术升级，推理效率相较最初版本提升了10倍。据澎湃新闻报道，百度智能云星期二（4月25日）召开了文心一言的技术交流会。会上说，文心一言开启内测一个月以来，已完成四次技术版本升级，相较最初版本推理效率提升了10倍，模型算力利用率提升了一倍，在模型性能和成本上实现了大幅优化，大模型推理成本降为原来的十分之一。3月底开始，百度智能云大模型平台启动首批企业内测，目前已经与不同领域客户联合研发，在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。未来将针对不同客户和开发者的需求，提供公有云服务、私有化部署两种服务模式。百度智能云的六大智能产品系列，也将基于文心一言全面升级，未来将在安全评估完成后上线。据悉，在公有云服务方面，百度智能云大模型平台将提供：推理（直接调用大模型的推理能力）、微调（通过高质量精标业务数据，高效训练出特定行业的大模型）、托管（将模型发布在百度智能云，以实现更加稳定高效的运行）三种服务，大幅降低企业部署大模型的门槛。在私有化部署方面，支持软件授权（提供在企业环境中运行的大模型服务）、软硬一体（提供整套大模型服务及对应的硬件基础设施）两种方式。私有化部署能够满足对数据监管有严格要求的企业客户需求。在会上，百度智能云AI与大数据平台总经理忻舟现场演示了百度智能云大模型平台与不同行业客户联合研发的内测。以石墨文档为例，在接入文心一言内测后，石墨文档研发出多个快速创作功能，辅助用户高效办公。AI助手“石小墨”能够快速生成简历、合同、故事等各种内容。在智能办公领域，忻舟现场演示了文心一言制作PPT的内测功能，提出需求后，文心一言就能自动生成内容，设计排版，并可根据要求持续调整优化。未来仅需三分钟就可生成一份PPT。
