2023 VDC人工智能会场：五大技术分享，揭秘vivo世界领先大模型实践

学习科技周边要努力，但是不要急！今天的这篇文章《2023 VDC人工智能会场：五大技术分享，揭秘vivo世界领先大模型实践》将会介绍到等等知识点，如果你想深入学习科技周边，可以关注我！我会持续更新相关文章的，希望对大家都能有所帮助！

2023年11月1日，vivo在开发者大会上正式发布了自主研发的通用大模型——蓝心大模型矩阵，为用户和开发者带来了很多惊喜。在同一天的人工智能会议上，vivo的AI团队分享了如何构建世界领先的蓝心大模型的研发过程、安全设计、工程实践和生态建设等主题，用领先的AI技术支持广大开发者和合作伙伴抓住产业趋势和机遇，打通商业闭环，实现AI的普及

vivo蓝心大模型四大优势，引领智能化体验革新 当前，vivo已构建起完整的大模型矩阵，覆盖从十亿级到千亿级不同的参数规模，同时开源了70亿参数大模型。大模型矩阵涵盖不同的用户场景，保障以最佳体验为用户带来价值；而开源模型，则助力伙伴以低门槛获得大模型技术，推动产业发展。 vivo AI 算法负责人陈晓昕指出，蓝心大模型具备四大特色：更懂手机、支持端侧应用、安全可控和开放开源。它更深入地掌握手机的运行机制，能够直接在手机端部署，天然支持端侧应用，配备完善的安全管理功能，并拥抱开源生态。

陈晓昕还分享了蓝心大模型的技术全景图。在应用层面，该大模型能够为手机、互联网和营销等领域提供服务。在能力层面，大模型不断提升语言理解、逻辑推理等关键技能。在模型层面，持续优化文本大模型，并计划推出语音与多模态大模型

为了应对AI安全挑战，vivo在全链路全周期上打造了全新的安全能力体系，以保障蓝心大模型的安全落地。vivo AI算法负责人陈晓昕负责全链路全周期的护航工作。这一体系从数据采集、模型训练、内容安全、业务安全等方面发力，通过在数据层面制定详细的安全等级划分，并持续调优模型等手段，确保蓝心大模型的安全落地。vivo还成立了AIGC安全专项组，负责手机终端大模型的安全工作。该组还推出了行业首发的端侧过滤能力，能够保护用户的隐私文件和隐私照片不被上传到云端，而是在端侧完成审核并返回给用户。同时，vivo还建立了快速干预机制，通过知识库内容补充来弥补大模型的知识的局限性，并通过知识注入的方式降低大模型的幻觉和不可控性

vivo AIGC安全专项组负责人 李方圆

AI工程体系，为大模型生产落地降本增效 大模型训练难度大、成本高，落地效率低。为此，vivo打造AI工程体系，助力大模型预训练、微调和部署降本增效。 据vivo AI 架构专家陈崇沛介绍，AI工程体系支持了从几亿参数到千亿参数体量的模型，同时搭建多个平台：训练平台支持千卡级别的分布式训练；微调平台对指令微调和强化学习有完整支持；部署平台可以解决推理服务性能问题；计算平台可提供高性能计算、高性能存储以及高速网络的能力。

陈崇沛同时分享了蓝心大模型预训练案例和千亿大模型部署案例，并透露，vivo联合阿里云搭建了千卡级别的算力集群，于国内率先配备了最先进的H系列GPU

要重写的内容是：vivo AI 架构专家 陈崇沛

灵骏智算服务是为了让vivo在大模型创新和应用方面能够兼顾到敏捷性和稳定性。大模型的创新和应用需要强大的人工智能基础设施的支持。阿里云机器学习平台研发负责人谭锋表示，阿里云人工智能平台PAI致力于打造灵骏智算服务，为合作伙伴提供全面覆盖AI端到端的基础设施。本次PAI聚焦于工程化、高性能和稳定性等方面，以提供解决方案，助力vivo高效稳定地开展大模型业务

PAI为vivo搭建了CPFS分布式文件存储系统，支持百万级的IOPS以及存储容量的在线无缝扩容，为训练数据、模型文件、模型Checkpoint提供稳定可靠的分布式存储。同时，PAI可以通过实时监控训练任务状态，及时发现故障并调度到不同节点以恢复作业，还支持对模型训练任务step粒度的自动保存，在训练中断后，实现进度无损秒级恢复，让vivo大模型创新敏稳兼顾。

阿里云机器学习平台研发负责人 谭锋

为了支持大模型端侧化的实施，vivo AI决定升级计算加速平台VCAP。这次升级将进一步促进大模型的端侧化落地。作为vivo AI端计算负责人，鲁晶表示，vivo在深入分析大模型特性的基础上，对算法模型、工具、底层加速框架和内核层级进行了全面优化，设计出了一整套的大模型端侧化解决方案

在算法模型层面，vivo选择了更适合端侧加速的子结构设计与维度；在工具层面，使用int4来存储权重以减小模型的体积和内存占用，并充分利用带宽来实现性能优化；同时还对框架设计和底层运行时进行了极致性能功耗的优化

目前，vivo蓝心大模型、视觉大模型已成功端侧落地，vivo成为了首家且是独家使用自研大模型，实现手机端侧大规模产品落地的手机厂商。

鲁晶是vivo AI端计算负责人

给大型语言模型添加“眼和手”的智能体架构

针对大模型落地挑战，vivo创新提出给大型语言模型添加“眼和手”的智能体架构，进一步拓展大模型的应用边界，实现从对话助手到全能助手的跃迁提升。 vivo AI系统智能负责人熊官敬表示，vivo将以蓝心大模型为大脑，通过完整的开放架构体系打造，在技能插件化开发、数据感知融通、模型部署层面和开发者深度合作，共同实现能说会做、个性懂你、开放共享的全能助手。

熊官敬指出，"自主性"是衡量大模型应用的核心指标之一。vivo一直在推动智能体实现主动智能，通过系统级的场景感知和AI大模型的意图理解，让设备能够"无需表达，自然懂你"

vivo AI 系统智能负责人 熊官敬 增进AI平台能力，助力开发者智慧进化 长期以来，vivo依托开发者平台为开发者提供丰富能力服务支持。vivo AI 高级产品经理刘诗韵表示，vivo开发者平台新增引入蓝心大模型和AIGC绘画大模型，平台能力和产品全面升级，助力开发者高效创新。 其中，蓝心大模型应用广泛，能为学习阅读、办公创作、生活等场景带来逾越式的改变；AI绘画大模型妙笔生画可以助力开发者高效制作出高质量的设计产品；vivo编码助手则具有代码生成、代码纠错等能力，可以帮助开发者提升代码效率和质量。

除此之外，vivo开发者平台还增加了云端算法功能，如图片超清、去手写、AI变声等，并增加了端侧新技术，如内容检测和离线翻译等，以更好地为开发者提供高质量的服务支持

vivo AI 高级产品经理 刘诗韵 与香港中文大学合作，共同促进多模态中文大模型的繁荣。根据技术发展趋势，大模型正从以“大语言模型”为核心向多模态拓展。香港中文大学电子工程系副教授李鸿升指出，他的团队与vivo在多模态领域展开了丰富的合作，成功开发和优化了多款具备多模态信号理解和推理能力的多模态语言大模型。他们还计划开源相关的多模态模型和方案，共同推动国内多模态中文大模型的持续发展

根据李鸿升的介绍，香港中文大学团队联合vivo研究院共同开发了ImageBind-LLM大模型，并首次提出了一个统一的大模型框架，用于多种模态信号的理解、推理和回答。为了解决LLaMA 2在中文场景中表现不佳的问题，香港中文大学团队将vivo自研的大模型BlueLM整合到他们开发的LLaMA-Adapter多模态大模型中，取代了原有的LLaMA 2模型，并利用BlueLM的强大能力打造了一个在中文多模态领域领先的模型

李鸿升是香港中文大学电子工程系的副教授

未来，vivo将在大模型等前沿技术领域保持深耕，创新应用场景，迭代服务工具，携手开发者及伙伴不断为用户创造惊喜，让AI成为造福社会的力量。

文章系第三方投稿，与数字尾巴立场无关

好了，本文到此结束，带大家了解了《2023 VDC人工智能会场：五大技术分享，揭秘vivo世界领先大模型实践》，希望本文对你有所帮助！关注golang学习网公众号，给大家分享更多科技周边知识！