高通安蒙:混合AI处理将是计算的下一次转型
来源:搜狐
时间:2023-05-31 12:11:16 177浏览 收藏
最近发现不少小伙伴都对科技周边很感兴趣,所以今天继续给大家介绍科技周边相关的知识,本文《高通安蒙:混合AI处理将是计算的下一次转型》主要内容涉及到等等知识点,希望能帮到你!当然如果阅读本文时存在不同想法,可以在评论中表达,但是请勿使用过激的措辞~
高通公司总裁兼CEO 安蒙
生成式AI搜索的成本是传统搜索的10倍,还面临着功耗过高,以及隐私、可靠性和性能方面的挑战。
近日,高通公司CEO安蒙在《财富》杂志上发表署名文章,详细阐述了高通公司对混合人工智能的愿景。混合AI通过在云端和边缘终端进行分布式处理,能够显著降低云硬件基础设施、房地产、能耗、运营和数据传输的成本。此外,混合AI将增强隐私保护,并提升可靠性和性能。
安蒙认为,生成式人工智能的创新和发展速度达到了之前未曾有过的水平,但这只是一个开端。这项技术将被广泛应用于各种不同的场景和用途,远超人们的想象。初步估计显示,生成式AI市场规模将达到1万亿美元。
生成式AI有可能改变人们搜索、创作内容的方式,并且同样可以对日常生活产生积极影响。借助生成式人工智能,智能手机可以成为真正的数字助手,使用户能够自然地沟通交流,并获得恰当的回答。使用这项技术,PC用户能够浏览电子邮件、创建文档和自动生成演示文稿。当驾乘汽车时,车内对话式助手能够提供建议,如充电、购买停车券,或在回家途中预订晚餐。商店的AI服务台和智能购物车可以根据每周打折促销、消费预算和家庭口味,为消费者定制餐单。
为了释放这项技术的全部潜能并满足日益增长的需求,生成式AI既需要云,也需要数十亿能够以低功耗进行高性能AI计算的网联终端,如智能手机、PC和汽车。这就是混合AI。通过在云端和终端上分布式处理,混合AI计算架构能够提高效率并提升用户体验的整体水平。
生成式AI处理可以直接在终端侧运行,也可以按需发送到云端,或者将两者相结合——无论采取何种方式,对用户而言都是无缝实现的。
用户希望搜索结果能够瞬间展示,跟传统搜索的体验相似。由于需要满足这种期望并维护高质量的服务水平,仅仅依赖云端处理将带来较高的成本,尤其是在高需求峰值期间,因此难以实现规模化。
数据中心能耗高且价格昂贵。根据估计,基于生成式人工智能进行网络搜索查询的成本是传统搜索的十倍。每年可能需要数十亿美元的增量成本,基于每天超过100亿次的查询计算。网络搜索只是生成式AI变革多个行业的众多方式之一。
云端进行全部推理处理不仅需要考虑成本,还要面对隐私、可靠性和性能等方面的挑战。当请求进入云端、数据离开终端时,就会产生潜在的安全问题。实际上,规范和合规问题,如个人数据的收集和存储,已导致模型被禁用或暂时停用的情况出现。
因为,安蒙认为,混合AI势不可挡。随着人们在探索使用生成式AI的新方式,对云基础设施的需求将会大幅增长。混合AI处理将是计算的下一次转型,正如我们所看到的从大型主机演进到台式机,再到今天云和我们手中的终端相结合的模式一样。
通过充分利用高性能、低功耗终端的处理能力,可以实现高效推导并生成含规模化AI的系统。通过强大、高效、高度优化的人工智能功能,云端与终端将协同工作,打造下一代用户体验。
今天带大家了解了的相关知识,希望对你有所帮助;关于科技周边的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
325 收藏
-
457 收藏
-
238 收藏
-
247 收藏
-
226 收藏
-
471 收藏
-
237 收藏
-
419 收藏
-
439 收藏
-
234 收藏
-
192 收藏
-
353 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习