百度文心大模型将发新版本，传推理成本增加10倍

近日，据消息人士透露，百度正在加紧训练文心大模型4.0，这将是文心大模型3.5版本后又一个重磅版本，或将在10月17日举行的百度世界大会上发布。

据爆料，文心大模型4.0的推理成本相比文心大模型3.5增加10倍。

有业内专家表示，大模型的推理成本跟三个因素相关：模型的网络结构和参数规模、推理部署方式、芯片和集群架构。

从目前的爆料信息来看，文心大模型4.0的参数规模预计可能突破万亿级别。换句话说，文心4.0的神经网络结构将变得更复杂、参数规模更大，这必然带来更大的计算量，这也意味着更高的推理成本。

随着大语言模型的不断升级迭代，参数量突破万亿、模型能力越来越强、用户使用量激增，推理成本都是大模型厂商需要持续优化的地方。

今年3月，百度正式推出了大语言模型文心一言。随后8月，百度率先将文心一言向全社会全面开放，此后文心一言冲上相关应用商店应用排行榜，并成为首个登顶苹果App Store免费应用榜首的中文AI原生应用。