内部调研发现：OpenAI也不清楚自己的AI如何做决策

对于一个科技周边开发者来说，牢固扎实的基础是十分重要的，golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《内部调研发现：OpenAI也不清楚自己的AI如何做决策》，主要介绍了，希望对大家的知识积累有所帮助，快点收藏起来吧，否则需要时就找不到了！

参考消息网5月14日报道据西班牙《先锋报》网站5月13日报道，ChatGPT背后的公司OpenAI最近在一项内部调研中试图发现其语言模型是如何做出决策的，得出的一个结论是：“它在运行。但对于它是如何运行的目前了解不多。”

报道称，日前发表的OpenAI研究人员报告指出，“语言模型现在能力越来越强，也变得更加普遍，但我们不了解它们是如何运行的”。这句话支持那些对正在向公众推广的一些人工智能缺乏安全性的问题提出警示的人的观点。

但OpenAI也表示“近期的研究在理解少量的电路和有限制的行为方面取得了进展”，不过该公司认为“要完全理解语言模型”需要“分析数以百万计的神经元”。鉴于巨大的工作量，该公司采取了一种能够自动分析语言模型所有神经元的技术。

据报道，根据发表出来的研究结果，该公司尚未实现这一点。尽管该公司尚未发现神经元的运作原理，但他们希望在将来实现这一目标。研究人员指出：“我们希望，从这种将可解读性自动化的方法出发，将使我们能够在部署之前全面地审视模型的安全性。换句话说，尽管GPT-4已经广泛投入使用，但他们目前无法完成这项任务。（编译/苏佳维）

到这里，我们也就讲完了《内部调研发现：OpenAI也不清楚自己的AI如何做决策》的内容了。个人认为，基础知识的学习和巩固，是为了更好的将其运用到项目中，欢迎关注golang学习网公众号，带你了解更多关于OpenAI,内部调研,AI决策的知识点！