惊人的发现:人工智能显示出类似人类的记忆形成

图片[1]-惊人的发现:人工智能显示出类似人类的记忆形成-DG城市

一个跨学科团队发现,人工智能模型,特别是变形金刚,以类似于人脑海马体的方式处理记忆。这一突破表明,将神经科学原理(如NMDA受体的原理)应用于人工智能可以改善记忆功能,推动人工智能领域的发展,并提供对人脑功能的见解。

研究人员发现,人工智能记忆巩固过程类似于人脑中的记忆巩固过程,特别是在海马体中,这为人工智能的进步和对人类记忆机制的更深入理解提供了潜力。

由认知与社会中心和基础科学研究所(IBS)数据科学小组的研究人员组成的跨学科团队揭示了人工智能(AI)模型的记忆处理与人脑海马体之间的惊人相似性。这一新发现为人工智能系统中的记忆整合提供了一个新的观点,这是一个将短期记忆转化为长期记忆的过程。

通过理解人类智能来推进人工智能

在开发通用人工智能 (AGI) 的竞赛中,在 OpenAI 和 Google DeepMind 等有影响力的实体的引领下,理解和复制类人智能已成为重要的研究兴趣。这些技术进步的核心是变压器模型[图1],其基本原理现在正在被深入探索。

图片[2]-惊人的发现:人工智能显示出类似人类的记忆形成-DG城市

(a) 突触后神经元中离子通道活动的图表。AMPA受体参与突触后神经元的激活,而NMDA受体被镁离子(Mg²⁺)阻断,但当突触后神经元充分激活时,通过钙离子(Ca²⁺)的流入诱导突触可塑性。

(b) 表示 Transformer AI 模型中计算过程的流程图。信息通过前馈层、层归一化层和自注意力层等阶段按顺序处理。描述NMDA受体电流-电压关系的图与前馈层的非线性非常相似。基于镁浓度(α)的输入输出图显示了NMDA受体非线性的变化。

应用于人工智能的大脑学习机制

强大的人工智能系统的关键是掌握它们如何学习和记忆信息。该团队将人脑学习的原理应用于人工智能模型,特别是通过海马体中的NMDA受体专注于记忆巩固。

NMDA受体就像大脑中的一扇智能门,可以促进学习和记忆的形成。当一种叫做谷氨酸的大脑化学物质存在时,神经细胞会受到兴奋。另一方面,镁离子充当挡住门的小看门人。只有当这个离子守门人走到一边时,物质才被允许流入细胞。这是让大脑创造和保留记忆的过程,而守门人(镁离子)在整个过程中的作用是相当具体的。

模拟人脑过程的人工智能模型

该团队有一个有趣的发现:Transformer模型似乎使用了类似于大脑NMDA受体的把关过程[见图1]。这一发现促使研究人员研究Transformer的记忆巩固是否可以通过类似于NMDA受体门控过程的机制来控制。

在动物大脑中,已知低镁水平会削弱记忆功能。研究人员发现,通过模仿NMDA受体可以改善Transformer中的长期记忆。就像在大脑中,镁水平的变化会影响记忆强度一样,调整 Transformer 的参数以反映 NMDA 受体的门控作用会导致 AI 模型中的记忆增强。这一突破性发现表明,人工智能模型如何学习可以用神经科学的既定知识来解释。

关于人工智能和神经科学的专家见解
该研究所的神经科学家主任C. Justin LEE说:“这项研究是推进人工智能和神经科学的关键一步。它使我们能够更深入地研究大脑的运作原理,并基于这些见解开发更先进的人工智能系统。

该团队和韩国科学技术院的数据科学家CHA Meeyoung指出:“人脑在如何以最小的能量运作方面非常出色,这与需要大量资源的大型人工智能模型不同。我们的工作为低成本、高性能的人工智能系统开辟了新的可能性,这些系统可以像人类一样学习和记忆信息。

认知机制与AI设计的融合
这项研究的与众不同之处在于,它主动将受大脑启发的非线性纳入人工智能结构,标志着在模拟类人记忆巩固方面取得了重大进展。人类认知机制和人工智能设计的融合不仅有望创建低成本、高性能的人工智能系统,而且还通过人工智能模型为大脑的运作提供了宝贵的见解。

© 版权声明
THE END
喜欢就支持一下吧
点赞9 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容