英伟达宣布使用DeepSeek

在科技周边实战开发的过程中，我们经常会遇到一些这样那样的问题，然后要卡好半天，等问题解决了才发现原来一些细节知识点还是没有掌握好。今天golang学习网就整理分享《英伟达宣布使用DeepSeek》，聊聊，希望可以帮助到正在努力赚钱的你。

英伟达发布NIM微服务预览版，搭载DeepSeek R1 671b大型语言模型！

据1月31日英伟达官方消息，其网站已上线采用DeepSeek R1 671b模型的“英伟达NIM微服务”预览版。英伟达宣称DeepSeek-R1在推理、数学和编码方面拥有“最先进”的性能。

该微服务在单HGX H200系统上，每秒可处理高达3872个tokens。这一速度的提升，不仅得益于H200的HBM3e高带宽内存等硬件优势，更离不开软件层面的优化，包括动态批处理、量化和TensorRT加速等技术。

此次预览版的发布，旨在收集开发者反馈，完善产品功能，并为正式版发布积累用户基础。未来，NIM微服务将集成至英伟达AI Enterprise平台，进一步丰富平台功能，为企业用户提供更完善的AI解决方案，增强其市场竞争力。

英伟达此举意在完善NIM生态，吸引更多开发者采用其全栈解决方案，巩固其在AI基础设施领域的领先地位，同时也是与AWS Bedrock、Azure AI Model Catalog等云服务巨头竞争，通过灵活的本地化部署方案，争夺企业AI市场份额。

本篇关于《英伟达宣布使用DeepSeek》的介绍就到此结束啦，但是学无止境，想要了解学习更多关于科技周边的相关知识，请关注golang学习网公众号！