登录
首页 >  科技周边 >  人工智能

高通安蒙:混合AI处理将是计算的下一次转型

来源:搜狐

时间:2023-05-31 12:11:16 177浏览 收藏

最近发现不少小伙伴都对科技周边很感兴趣,所以今天继续给大家介绍科技周边相关的知识,本文《高通安蒙:混合AI处理将是计算的下一次转型》主要内容涉及到等等知识点,希望能帮到你!当然如果阅读本文时存在不同想法,可以在评论中表达,但是请勿使用过激的措辞~

高通安蒙:混合AI处理将是计算的下一次转型 高通公司总裁兼CEO 安蒙

生成式AI搜索的成本是传统搜索的10倍,还面临着功耗过高,以及隐私、可靠性和性能方面的挑战。

近日,高通公司CEO安蒙在《财富》杂志上发表署名文章,详细阐述了高通公司对混合人工智能的愿景。混合AI通过在云端和边缘终端进行分布式处理,能够显著降低云硬件基础设施、房地产、能耗、运营和数据传输的成本。此外,混合AI将增强隐私保护,并提升可靠性和性能。

安蒙认为,生成式人工智能的创新和发展速度达到了之前未曾有过的水平,但这只是一个开端。这项技术将被广泛应用于各种不同的场景和用途,远超人们的想象。初步估计显示,生成式AI市场规模将达到1万亿美元。

生成式AI有可能改变人们搜索、创作内容的方式,并且同样可以对日常生活产生积极影响。借助生成式人工智能,智能手机可以成为真正的数字助手,使用户能够自然地沟通交流,并获得恰当的回答。使用这项技术,PC用户能够浏览电子邮件、创建文档和自动生成演示文稿。当驾乘汽车时,车内对话式助手能够提供建议,如充电、购买停车券,或在回家途中预订晚餐。商店的AI服务台和智能购物车可以根据每周打折促销、消费预算和家庭口味,为消费者定制餐单。

为了释放这项技术的全部潜能并满足日益增长的需求,生成式AI既需要云,也需要数十亿能够以低功耗进行高性能AI计算的网联终端,如智能手机、PC和汽车。这就是混合AI。通过在云端和终端上分布式处理,混合AI计算架构能够提高效率并提升用户体验的整体水平。

生成式AI处理可以直接在终端侧运行,也可以按需发送到云端,或者将两者相结合——无论采取何种方式,对用户而言都是无缝实现的。

用户希望搜索结果能够瞬间展示,跟传统搜索的体验相似。由于需要满足这种期望并维护高质量的服务水平,仅仅依赖云端处理将带来较高的成本,尤其是在高需求峰值期间,因此难以实现规模化。

数据中心能耗高且价格昂贵。根据估计,基于生成式人工智能进行网络搜索查询的成本是传统搜索的十倍。每年可能需要数十亿美元的增量成本,基于每天超过100亿次的查询计算。网络搜索只是生成式AI变革多个行业的众多方式之一。

云端进行全部推理处理不仅需要考虑成本,还要面对隐私、可靠性和性能等方面的挑战。当请求进入云端、数据离开终端时,就会产生潜在的安全问题。实际上,规范和合规问题,如个人数据的收集和存储,已导致模型被禁用或暂时停用的情况出现。

因为,安蒙认为,混合AI势不可挡。随着人们在探索使用生成式AI的新方式,对云基础设施的需求将会大幅增长。混合AI处理将是计算的下一次转型,正如我们所看到的从大型主机演进到台式机,再到今天云和我们手中的终端相结合的模式一样。

通过充分利用高性能、低功耗终端的处理能力,可以实现高效推导并生成含规模化AI的系统。通过强大、高效、高度优化的人工智能功能,云端与终端将协同工作,打造下一代用户体验。

今天带大家了解了的相关知识,希望对你有所帮助;关于科技周边的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

声明:本文转载于:搜狐 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>