大模型正在让手机成为“专属私人助理”

今年以来，国内互联网科技企业、人工智能企业、研究团队等纷纷推出大模型产品，开启“百模大战”，推动大模型相关应用加速落地。

随着模型压缩技术和边缘侧计算性能的同步提升，大模型开始向手机、PC、车机等消费级终端中渗透，在加速智能终端产品创新迭代的同时，也让大模型技术真正融入每个人的生活，推动AI普惠。

以手机行业为例，大模型的“落地生花”不仅可以推动手机这一终端的体验上一个新的台阶，而且还为整个手机行业创造了新的机遇。

vivo发布蓝心大模型*，“智能体”雏形已现*

11月1日，在2023 vivo开发者大会上，vivo发布自研通用大模型矩阵——蓝心大模型，带来vivo基于蓝心大模型开发的首款全局智能辅助蓝心小V、自然语言对话机器人蓝心千询等全新功能应用，让AI大模型“走入寻常百姓人家”。

众所周知，目前大家使用的智能手机普遍配备了智能助手，不过日常使用中却很少用到。

对此，手机行业观察者小天（化名）解释道：“造成这一现状的原因有两点，一方面是，现在的手机助手在理解指令和反馈结果的过程中，不够精准，很多时候不仅‘答不对题’，甚至不能理解问题，这就会劝退用户；另一方面，大部分手机用户也并没有养成使用‘助手’的习惯，自然形成一种‘手机就在手上，直接用手操作就行，没必要用语音唤醒操作’的惯性思维。要形成使用助手的习惯，首先得让用户感受到便利。”

相较于传统的AI应用，蓝心小V是基于蓝心大模型的首款全局智能辅助应用，拥有更为自然、便捷的人机交互方式，行业领先的智慧大脑，丰富多维的信息表达。这三大技能点让蓝心小V具备了手机专属私人助理的能力。蓝心小V可以通过语音或文字，甚至是拖拽的方式，接受并处理信息数据，同时设计了便捷小巧的悬浮态，不用时最小化挂起，需要时再点击打开。

值得关注的是，蓝心大模型是vivo自研的通用大模型矩阵，包含十亿、百亿、千亿三个参数量级，共5款自研大模型（蓝心大模型1B、蓝心大模型7B、蓝心大模型70B、蓝心大模型130B、蓝心大模型175B），全面覆盖核心场景，从而满足不同的应用需求和算力条件，可以高效快速地将大模型技术转化为用户价值。

蓝心大模型矩阵包括5款自研大模型：蓝心大模型1B、蓝心大模型7B、蓝心大模型70B、蓝心大模型130B、蓝心大模型175B。

目前，手机端成为vivo蓝心大模型落地的第一个层面，即以AI助理的方式出现。而未来，基于蓝心大模型的智能化应用有望进阶为“智能体”，它能够感知到周边环境信息，识别用户意图，能够用户进行决策，还能够借助大模型去执行和管理执行，从而使整个“智能体”变得越来越智能。

生态是大模型应用“落地生花”的必经之路

如今国内大模型开源生态正在加速形成，从代码大模型开源、通用大模型开源到垂直行业大模型开源，覆盖大模型全产业链。可见，大模型想要在各领域各行业实现应用落地，需要联合社会多方力量，通过开源开放的方式开展协同创新。对此，vivo选择拥抱开源合作，与伙伴共建大模型产业生态。

首先，vivo需要解决大模型供给的问题，vivo把蓝心大模型7B（70亿）能力贡献出来，并把训练的能力、调优的能力、各个行业数据热拔插的能力，全部整合起来、贡献出来，同时推出蓝心开发者激励计划，让每一位开发者都有大模型可用，有好模型可用，携手给用户带来更丰富极致的产品体验。

同时，vivo从3-5年的时间维度上去探索行业可能出现的难题：用户应用大模型的门槛的问题。vivo认为，解决办法是让大模型落地终端设备，而如果要“上端”的话就要解决系统最小权限和算力以及最重要的内存资源的问题。

比如，在算法模型层面，vivo在结构设计上选择更适合端侧加速的子结构设计与维度；在工具层面，使用int4做权重存储减小模型体积和内存占用，并充分利用带宽达到极致的性能优化；同时优化框架设计与底层运行时的极致性能功耗。

另外，vivo自主研发的自然语言对话机器人“蓝心千询”，则支持与用户自然对话、进行知识信息的快速问答、文学创作、中文理解、图片生成，还可以像一名软件工程师去编写应用程序。

据悉，蓝心千询将以手机公版app的形式上线各大手机应用市场，不仅vivo手机用户可以使用，所有安卓和ios的用户都可以在应用市场下载。

深蹲远跳，以底层技术创新加速产业蝶变

要想打造好用、优秀的大模型，除了成本，更重要的是数据量、高维度的应用范式和逻辑思维链，而这背后就需要强大的技术积累和创新能力。

资料显示，vivo从2017年就已开始布局研究人工智能，组建了Al全球研究院，是首批设立专攻人工智能方向研究院的中国手机公司之一。6年来，vivo始终坚持在人才、数据、算法、算力、安全等方面进行战略投入，最终才将大模型做到如今的成就。

在人才方面，vivo从2017年开始就一直维持着1000人左右的专业人工智能团队，到2021年vivo已有超过600人专注研发大模型。在数据方面，vivo人工智能图谱研究院已经积累了13000T的多种模态数据，以及2800T高质量中文文本数据，仅用于百亿蓝心大模型的文本数据量就达到了15T。

在算法层面，vivo将理论与实践相结合，累计在顶级期刊发表了70多篇高水平论文，并持续跟踪全球顶尖学术期刊动态，将其转化成算法和工程应用；在算力层面，vivo联合阿里云搭建了千卡级别的算力集群，于国内率先配备了最先进的H系列GPU。

如业界所评论的，作为一个长周期行业，影响智能手机最大因素，并非经济周期，而是创新周期。如今，要想真正抓住大模型变革手机产业的风口，则是技术、人才的长期储备所决定。

其中，对于手机用户的隐私安全的保障，就是考验手机厂商底层技术研发能力的一道“关口”。

对此，vivo手机终端大模型打造了行业首发的端侧过滤能力，能够保护用户隐私文件、隐私照片不上云，在端侧完成内容输入、输入审核、模型生成、输出审核以及返回给用户，真正做到了在端侧闭环。

手机AI大模型已成为国内手机厂商争相布局的新兴领域。对于vivo而言，选择的路径是，依托多年的技术积累，以用户的需求为核心，打造切实好用的大模型矩阵产品。而且，面对新一轮技术革命的“奇点时刻”，vivo主动联合行业伙伴进行协同创新，为手机产业产品迭代开辟新的蓝海，并加速产业链良性健康发展。