华为云AI原生基础设施CloudMatrix亮相全联接大会
来源:机器之心
时间:2024-09-30 08:18:50 237浏览 收藏
“纵有疾风来,人生不言弃”,这句话送给正在学习科技周边的朋友们,也希望在阅读本文《华为云AI原生基础设施CloudMatrix亮相全联接大会》后,能够真的帮助到大家。我也会在后续的文章中,陆续更新科技周边相关的技术文章,有好的建议欢迎大家在评论留言,非常感谢!
今天,在华为全联接大会 2024 上,华为云发布了 AI 原生云基础设施架构 CloudMatrix,以满足 AI 时代企业对于算力的大规模、高效稳定、弹性灵活的需求。
1. 华为云 AI 原生云基础设施架构 CloudMatrix 正式发布如今,AI 算力需求高速增长,正在超越对通用算力的需求。构建弹性、高效的多元算力基础设施是 AI 发展的关键。
为了进一步提升 AI 原生基础设施的效能,华为云推出 AI 原生云基础设施 CloudMatrix,将 CPU、NPU、DPU、存储和内存等资源全部互联和池化,构建「一切可池化、一切皆对等、一切可组合」的分布式对等全互联架构,实现了单体算力向矩阵算力的演进,为客户提供澎湃的 AI 算力。
- 一切可池化:华为通过 CPU、NPU 为客户提供强大的通用计算和智能计算。同时,华为云分布式 QingTian 技术帮助突破单服务器的能力边界,将服务器内的 CPU、NPU、DPU、存储和内存等多样资源的统一池化并灵活配置,以此形成大规模、紧耦合的多元算力池化架构,算力得到大幅提升。
- 一切皆对等:CloudMatrix 通过超高带宽 ScaleUp 网络从「传统以太网」向「共享总线以太网」演进,实现池化算力的高速互联,同时通过自适应拓扑感知打破集群线性度瓶颈。华为云在传统算力集群 ScaleOut 网络基础上,结合 ScaleUp 超高带宽网络,将资源互联带宽提升了一个数量级。新的网络协议实现跨物理服务器的统一标识、统一的访问和消息通信机制。从而实现 CPU、NPU、存储 内存等多样资源的跨服务器统一池化。通过资源全部对等连接,既可以水平扩展,更可以垂直扩展,打破计算集群线性度的瓶颈,能够降大模型训练集群的线性度提升至 95%,网络故障分钟级恢复。
- 一切可组合:CloudMatrix 可以按需组合多样化算力资源,并且根据应用需求灵活调整。在统一多元算力逻辑池化、高速全对等互联的基础上,通过瑶光智能云脑对云上资源进行多元算力统一建模、灵活调度组合,按需提供给应用。覆盖大模型和小模型的训练和推理,同时,还能够用在数据分析、媒体内容生成等更多应用场景。
- 华为云宣布,基于 CloudMatrix 的新一代昇腾 AI 云服务将于年底上线。
好了,本文到此结束,带大家了解了《华为云AI原生基础设施CloudMatrix亮相全联接大会》,希望本文对你有所帮助!关注golang学习网公众号,给大家分享更多科技周边知识!
声明:本文转载于:机器之心 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
最新阅读
更多>
-
344 收藏
-
381 收藏
-
339 收藏
-
205 收藏
-
195 收藏
-
358 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习