登录
首页 >  科技周边 >  人工智能

DeepSeek开源周第五天:“动力推进器”Fire-Flyer文件系统

时间:2025-03-07 14:40:10 112浏览 收藏

DeepSeek开源项目第五天重磅发布全新并行文件系统Fire-Flyer (3FS),显著提升数据访问速度,赋能AI研究。3FS充分利用SSD和RDMA网络的高带宽,在大型集群测试中展现出惊人的性能:聚合读取吞吐量高达6.6 TiB/s,GraySort基准测试吞吐量达3.66 TiB/min,单节点KVCache查找峰值吞吐量更是超过40 GiB/s。该系统采用分离式架构,支持强一致性语义,并完美适配DeepSeek的各种数据密集型任务,例如训练数据预处理和模型检查点管理等,有效加速AI研发进程。

DeepSeek开源项目再添利器!今日发布全新并行文件系统3FS,赋能DeepSeek数据访问。

3FS(Fire-Flyer文件系统)充分利用现代SSD和RDMA网络的高带宽,在180节点集群中实现高达6.6 TiB/s的聚合读取吞吐量,在25节点集群的GraySort基准测试中达到3.66 TiB/min的吞吐量。单客户端节点的KVCache查找峰值吞吐量更是超过40 GiB/s。

该系统采用分离式架构,支持强一致性语义,并能有效支持V3/R1中的训练数据预处理、数据集加载、检查点保存/重载、嵌入向量搜索以及推理中的KVCache查找。

DeepSeek团队表示,3FS旨在为其数据密集型任务提供高效、可靠的存储和访问方案,从而加速AI研究和开发进程。

DeepSeek开源周第五天:“动力推进器”Fire-Flyer文件系统

到这里,我们也就讲完了《DeepSeek开源周第五天:“动力推进器”Fire-Flyer文件系统》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于并行,DeepSeek,3fs的知识点!

相关阅读
更多>
最新阅读
更多>
课程推荐
更多>