登录
首页 >  科技周边 >  人工智能

刚刚,OpenAI元老级研究员Alec Radford离职,他主导了GPT-1、GPT-2的研发

时间:2025-01-19 08:28:27 110浏览 收藏

从现在开始,努力学习吧!本文《刚刚,OpenAI元老级研究员Alec Radford离职,他主导了GPT-1、GPT-2的研发》主要讲解了等等相关知识点,我会在golang学习网中持续更新相关的系列文章,欢迎大家关注并积极留言建议。下面就先一起来看一下本篇正文内容吧,希望能帮到你!

OpenAI 十二天发布会进入尾声,备受期待的“重磅”消息迟迟未至,反而传出核心研究人员离职的消息。

OpenAI 的人事变动仍在持续。据 The Information 报道,OpenAI 元老级人物 Alec Radford 即将离职,转而投身独立研究。

图片

知情人士透露,Radford 计划与 OpenAI 及其他 AI 开发者保持合作。

图片

OpenAI 研究主管 Mark Chen 发表声明,对 Radford 的贡献表示感谢,并期待未来继续合作。

Radford 虽然并非家喻户晓,但他参与的研究成果却举足轻重。自 2016 年加入 OpenAI 以来,他主导了一系列突破性进展,例如初代 GPT 和 GPT-2 的研发。

在最近的 NeurIPS 2024 大会上,OpenAI 前首席科学家 Ilya Sutskever 在演讲中特别提及了 Radford 和 Dario Amodei 等人对 GPT-2 和 GPT-3 的开创性贡献,这些工作推动了预训练模型时代的到来。

图片

有人猜测,Radford 的离职预示着 GPT-4.5 的即将发布,因为此前 OpenAI 高级语音模型发布后,首席技术官 Mira Murati 也宣布离职。这种推测认为,作为 GPT 系列核心成员,Radford 可能会在 OpenAI 十二天发布会的最后一天推出 GPT-4.5。

对此,有人认为 Radford 可能是为了完成手头项目后离职;也有人指出,Radford 长期在幕后工作,与公开露面的 Murati 等人不同,因此 GPT-5 发布后离职或许更合理。此外,离职也可能促进开源研究,因为离开 OpenAI 后,他将可以更自由地发表研究成果。

图片

许多人认为人们低估了 Radford 对 OpenAI 及整个 AI 领域的影响。他不仅是 GPT 和 Dall-E 的主要贡献者,很可能也主导了公司许多重要的研究方向,其影响力甚至不亚于 Ilya Sutskever。虽然他的离职对 OpenAI 来说是重大损失,但也有人希望他能进行更开放的研究,造福整个 AI 社区。

图片

此前,不列颠哥伦比亚大学教授 Jeff Clune 在 X 平台上发起了讨论,并毫不犹豫地推荐 Radford 为最被低估的 AI 科学家,认为他应该被载入史册。

图片

图片

图片

Radford 全程参与了 GPT 系列模型的研发,是 GPT-1 的一作、GPT-2 的共同一作,这两篇论文的引用次数分别超过 11000 和 14000。GPT-1 开启了预训练大模型时代,GPT-2 则进一步改进,参数达到 15 亿。他还参与了 GPT-3 论文的撰写和 GPT-4 的预训练数据及架构研究。

图片

GPT-1 论文:https://cdn.openai.com/research-covers/language-unsupervised/language\_understanding\_paper.pdf

图片

GPT-2 论文:https://cdn.openai.com/better-language-models/language\_models\_are\_unsupervised\_multitask\_learners.pdf

GPT-3 参数达到 1750 亿,GPT-4 则进一步发展成为多模态模型。

图片

GPT-3 论文:https://arxiv.org/pdf/2005.14165

图片

GPT-4 技术报告:https://arxiv.org/pdf/2303.08774

Google Scholar 显示,Radford 的论文总引用次数超过 19 万,其中 7 篇论文的引用次数超过 1 万。

图片

参考链接:

https://www.theinformation.com/briefings/senior-openai-researcher-radford-departs

https://x.com/jeffclune/status/1841167663252615634

https://www.reddit.com/r/singularity/comments/1hi3tth/alec\_radford\_the\_lead\_author\_of\_openais\_original/

理论要掌握,实操不能落!以上关于《刚刚,OpenAI元老级研究员Alec Radford离职,他主导了GPT-1、GPT-2的研发》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

相关阅读
更多>
最新阅读
更多>
课程推荐
更多>