联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型

今天golang学习网给大家带来了《联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型》，其中涉及到的知识点包括等等，无论你是小白还是老手，都适合看一看哦~有好的建议也欢迎大家在评论留言，若是看完有所收获，也希望大家能多多点赞支持呀！一起加油学习~

11月6日晚间，联发科发布了旗舰芯片天玑9300。根据官方介绍，天玑9300升级为APU 790，支持8倍速生成式AI Trasformer算子加速，具备独特的内存硬件压缩技术和NeuroPilot Compression混合精度INT4量化技术，同时整数运算速度提升2倍，浮点运算速度提升2倍，功耗降低了45%

联发科官方表示，他们已经成功将天玑 9300 移植到终端设备上，并在该设备上成功运行了70亿参数的人工智能大语言模型。此外，他们还成功运行了130亿参数和330亿参数的人工智能大语言模型

还有，天玑9300还支持生成式AI文生图功能，可以生成表情包

联发科还发布了“蓝心小V”，这是与vivo合作打造的工具，已经在2023年vivo开发者大会上推出，是OriginOS 4的“专属私人助理”。更多详细信息请参考IT之家之前的报道

终于介绍完啦！小伙伴们，这篇关于《联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型》的介绍应该让你收获多多了吧！欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识，快来关注吧！