模拟大脑功能,这个AI模型真正实现像人一样持续学习
来源:51CTO.COM
时间:2023-05-01 13:17:08 421浏览 收藏
大家好,今天本人给大家带来文章《模拟大脑功能,这个AI模型真正实现像人一样持续学习》,文中内容主要涉及到,如果你对科技周边方面的知识点感兴趣,那就请各位朋友继续看下去吧~希望能真正帮到你们,谢谢!
正如图像处理、智能医疗、自动驾驶汽车和智慧城市等各个 AI 领域的突破所展现的那样,深度学习无疑正在经历着黄金期。在未来十年左右,AI 和计算机系统将最终具备类人的学习和思考能力,以处理持续的信息流,与现实世界进行交互。
但是,当前的 AI 模型在连续进行新信息训练时会遭受性能损失。这是因为每当生成新数据时,都会在已有数据之上写入,从而擦除以前的信息。这种效应被称为「灾难性遗忘」。稳定性 - 可塑性困境导致 AI 模型需要更新其记忆以不断地适应新信息,同时保持当前知识的稳定性。这一问题阻止了 SOTA AI 模型持续地从现实世界信息中学习。
同时,边缘计算系统允许将计算从云存储和数据中心转移到原始来源附近,例如连接物联网的设备。在资源有限的边缘计算设备上高效地应用持续学习仍然是一个挑战,尽管领域内也提出了很多持续学习模型来解决这一问题。传统模型需要高计算能力和大存储容量。
最近,新加坡科技设计大学(SUTD)的一个研究团队设计了一种能够实现高能效持续学习系统的新型模型,研究《Continual Learning Electrical Conduction in Resistive-Switching-Memory Materials》发表在了期刊《先进理论与模拟》上。
论文地址:https://onlinelibrary.wiley.com/doi/abs/10.1002/adts.202200226
该团队提出一种受大脑启发的模型—Brain-Inspired Replay(BIR),它可以自然地进行持续学习。BIR 模型基于人工神经网络和变分自编码器来模拟人类大脑的功能,在没有存储数据的类增量学习场景中也能表现得很好。研究者还使用 BIR 模型来表示在数字存储系统中使用电流的导电丝生长。
下图左上为生成式回放设置,右上为训练具有生成式回放的人工神经网络;左下和右下分别为常规以及 BIR 模型的归一化电流精度。
论文通讯作者之一、助理教授 Loke 解释称,「在 BIR 中,知识被保存在训练过的模型中,从而在引入额外任务时将性能损失降至最低,并无需参考以往工作中的数据。因此,这种做法可以大量节能。」
他还补充道,「在无存储数据的情况下,在当前学习任务的合规性挑战上实现了 89% 的 SOTA 准确率,这比传统持续学习模型高了约两倍,并且实现了高能效。」
此外,为了使 BIR 模型能够独立处理现实世界的现场信息,该团队计划在下一阶段的研究中扩展它的可调能力。
Loke 表示,这项研究基于小规模演示,仍处于早期阶段。不过,采用这种方法有望使得边缘 AI 系统在无人类控制的情况下独立发展。
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于科技周边的相关知识,也可关注golang学习网公众号。
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
467 收藏
-
259 收藏
-
195 收藏
-
321 收藏
-
174 收藏
-
295 收藏
-
477 收藏
-
463 收藏
-
321 收藏
-
275 收藏
-
239 收藏
-
220 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习