英特尔张宇:边缘计算在整个AI生态系统中扮演重要角色
来源:搜狐
时间:2023-08-22 23:19:15 132浏览 收藏
在IT行业这个发展更新速度很快的行业,只有不停止的学习,才不会被行业所淘汰。如果你是科技周边学习者,那么本文《英特尔张宇:边缘计算在整个AI生态系统中扮演重要角色》就很适合你!本篇内容主要包括##content_title##,希望对大家的知识积累有所帮助,助力实战开发!
【环球网科技报道 记者 林梦雪】当前,生成式AI、大模型在世界各地都呈现出高热现象,在刚刚过去的2023世界人工智能大会(WAIC 2023)期间, 各家厂商更是掀起了“百模大战”,据组委会不完全统计,共有超30个大模型平台对外发布和亮相,六成线下展台展示了生成式AI技术的相关介绍和应用,八成参会人员讨论的内容围绕大模型展开。
WAIC 2023期间,英特尔公司高级首席AI工程师、网络与边缘事业部中国区首席技术官张宇认为,推动本轮人工智能发展最核心的要素,实际上是计算、通讯和存储技术的不断提升。在整个AI生态系统中,无论是大型模型还是融合AI,边缘都扮演着至关重要的角色。
张宇表示,“随着行业数字化转型,人们对于敏捷连接,实时业务以及应用智能等方面的诉求,推动了边缘人工智能的发展。但是边缘人工智能目前绝大部分的应用还处于边缘推理阶段。也就是说我们要利用大量数据以及极大算力在数据中心训练一个模型,我们把训练的结果推送到前端去执行一个推理操作。这是目前绝大部分在边缘实现人工智能的使用模式。”
“尽管这种模式会限制模型的更新频率,但我们也发现许多智能行业实际上对模型的更新有需求。”。自动驾驶要求具备适应不同路况和多个驾驶员的驾驶行为的能力。但是我们在车厂训练一个角色模型的时候,所使用的训练数据和在动态驾驶过程中所产生的数据之间,往往会产生一定差异。这个差异对于模型的泛化能力产生了影响,即对新路况和新驾驶行为的适应能力。我们需要在边缘不断对这个模型进行进一步训练和优化。”他说道。
因此,张宇提出,人工智能发展的第二个阶段应该是边缘训练阶段。“如果我们要实现边缘训练,就需要有更加自动化的手段和工具去完成从数据标注到模型的训练,以及模型部署一整套完整的开发流程。”他表示,边缘人工智能下一步的发展方向应该是自主学习。
而在实际的发展过程中,边缘人工智能也面临着诸多挑战。在张宇看来,除了边缘训练的挑战外,还有边缘设备的挑战。“由于提供的算力所能够承载的功耗往往是有限的,所以如何在有限资源的情况下去实现边缘的推理及训练,对芯片的性能、功耗比提出了更高的要求。”他还提出,边缘设备的碎片化非常明显,如何利用软件很好地实现在不同平台之间的迁移也提出了更多要求。
此外,人工智能的发展与算力息息相关,而算力的背后则是庞大的数据基础,面对海量的数据资产,如何进行数据保护也成为边缘人工智能发展热议的焦点。当人工智能被边缘部署时,这些模型将远离服务提供商的控制范围。在这个时候我们如何去保护模型?且要在存储和运行时都能达到很好的保护效果,这些都是边缘人工智能面临的挑战。”
“英特尔是一家数据公司,我们的产品恰恰涵盖了计算、通讯和存储的各个方面。在计算方面,英特尔提供的是包括CPU、GPU、FPGA和各种人工智能加速芯片在内的多种产品,来满足用户对于算力的不同要求。比如在人工智能大模型方面,英特尔旗下的Habana推出的Gaudi2产品是整个业界唯二的在大模型训练方面表现出优异性能的产品。在在边缘推理方面,英特尔提供的OpenVINO深度学习部署工具套件,可以将开发人员在开放的人工智能框架上设计和训练好的模型快速部署到不同硬件平台执行推理操作。”
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于科技周边的相关知识,也可关注golang学习网公众号。
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
352 收藏
-
212 收藏
-
285 收藏
-
364 收藏
-
292 收藏
-
501 收藏
-
169 收藏
-
333 收藏
-
443 收藏
-
196 收藏
-
347 收藏
-
265 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习