微软首次推出27亿参数的Phi-2模型,性能超过许多大型语言模型
来源:51CTO.COM
时间:2023-12-14 18:03:25 348浏览 收藏
本篇文章向大家介绍《微软首次推出27亿参数的Phi-2模型,性能超过许多大型语言模型》,主要包括,具有一定的参考价值,需要的朋友可以参考一下。
微软发布了一款名为Phi-2的人工智能模型,该模型表现出了不凡的能力,其性能可媲美甚至超越规模是其25倍的、更大、更成熟的模型。
最近微软在一篇博文中宣布Phi-2是一个拥有27亿参数的语言模型,相比其他基础模型,Phi-2表现出先进的性能,特别是在复杂的基准测试中,这些测试评估了推理、语言理解、数学、编码和常识能力。现在Phi-2已经通过微软Azure人工智能工作室的模型目录发布,这意味着研究人员和开发人员可以将其集成到第三方应用程序中
Phi-2是由微软首席执行官Satya Nadella在11月份的Ignite大会上首次发布的。该产品的强大功能来自于微软所称的“教科书质量”数据,这些数据是专门为知识而设计的,并且还借鉴了其他模型的洞见技术
Phi-2 的独特之处在于,以往大型语言模型的能力常常与其参数规模密切相关。一般来说,参数越多的模型意味着更强大的能力。然而,Phi-2 的出现改变了这一传统观念
微软表示,Phi-2在一些基准测试中展示了与更大型的基础模型相当甚至超越它们的能力。这些基准测试包括了Mistral AI的70亿参数的Mistral、Meta Platforms公司的130亿参数的Llama 2,甚至在一些基准测试中超过了700亿参数的Llama-2
一个令人惊讶的说法可能是,它的性能甚至超过了谷歌的Gemini Nano,后者是上周发布的Gemini系列中效率最高的一款。Gemini Nano专为设备上的任务而设计,可以在智能手机上运行,实现文本摘要、高级校对、语法修正以及上下文智能回复等功能
微软的研究人员说,Phi-2涉及的测试非常广泛,包括语言理解、推理、数学、编码挑战等。
该公司表示,Phi-2之所以能取得如此优异的成绩,是因为它是用精心挑选的教科书级数据训练而成,这些数据旨在教授推理、知识和常识,这意味着它可以从更少的信息中学到更多的东西。微软的研究人员还使用了一些技术,允许从更小的模型中获取知识。
研究人员指出,值得注意的是,Phi-2在不使用基于人类反馈的强化学习或教学性微调等技术的情况下,仍然能够实现强大的性能。这些技术通常用于改善人工智能模型的行为。尽管没有使用这些技术,但与其他使用了这些技术的开源模型相比,Phi-2在减少偏见和有害内容方面仍然表现出色。该公司认为这是因为数据整理的定制化工作所起到的作用
微软研究人员称Phi-2是“小型语言模型(SLM)”系列的最新版本。Phi-1是该系列的第一个模型,今年早些时候首次发布,它拥有13亿个参数,并针对基本的Python编码任务进行了微调。今年9月,微软公司推出了Phi-1.5,该模型拥有13亿个参数,并使用了新的数据源进行训练,其中包括用自然语言编程生成的各种合成文本
微软表示,Phi-2的高效性使其成为研究人员探索增强人工智能安全性、可解释性和语言模型道德发展等领域的理想平台。
今天带大家了解了的相关知识,希望对你有所帮助;关于科技周边的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
357 收藏
-
443 收藏
-
202 收藏
-
274 收藏
-
358 收藏
-
330 收藏
-
380 收藏
-
104 收藏
-
236 收藏
-
302 收藏
-
314 收藏
-
467 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习