仅用于站内搜索,没有排版格式,具体信息请跳转上方微信公众号内链接
摘要
人工神经网络(ANNs)已成为机器学习领域的重要工具,在图像与语音生成、游戏博弈、机器人技术等多个领域取得显著成就。然而,人工神经网络的运行机制与生物大脑存在本质差异,尤其在学习过程方面存在显著区别。本文系统综述了当前人工神经网络中受大脑启发的学习表征方法,探究了如何通过整合更具生物学合理性的机制(如突触可塑性)来提升网络性能,并深入分析了这种方法的潜在优势与挑战。本综述还指明了这一快速发展领域中具有前景的未来研究方向,这些探索或将使我们更接近智能本质的理解。
来源:集智俱乐部
作者:集智编辑部
论文题目:Brain-inspiredlearninginartificialneuralnetworks:Areview
发表时间:2024年5月9日
论文地址:https ://doi.org/10.1063/5.0186054
期刊名称:APLMachineLearning
人工神经网络(ANNs)在图像生成、语音识别、机器人控制等领域取得了突破性进展,但其学习机制与生物大脑仍存在显著差异。传统ANNs依赖全局误差反向传播,而生物大脑通过局部可塑性规则(如突触强度的动态调整)实现高效、自适应学习。这种差异引发了关键问题:能否将生物学习机制融入ANNs,以突破其终身学习、能效和适应性的瓶颈?近期发表于APLMachineLearning的综述文章系统梳理了这一领域的前沿进展,探讨了从突触可塑性到神经形态硬件的跨学科探索。本文从生物机制启发、算法创新和应用场景三个维度,揭示脑启发学习如何重塑人工智能的未来。
生物大脑的学习密码:从突触到神经环路
生物学习的核心在于多尺度机制的协同,突触可塑性(SynapticPlasticity)作为其基础,短期可塑性(Short-termPlasticity)在毫秒级调节突触强度,支持即时记忆;长期可塑性(Long-termPlasticity)则通过结构改变巩固长期记忆。例如,神经元A反复激活神经元B会增强两者连接(“一起放电,一起连接”的赫布法则),而时序依赖可塑性(STDP)进一步引入时间维度:若突触前神经元放电早于突触后神经元,连接增强,反之则减弱(图1)。这种机制已在实验上证实与记忆编码密切相关。
图1.生物神经元突触长时程增强(LTP)与长时程抑制(LTD)的图示说明。(a)突触连接的前后神经元;(b)神经元之间的连接点——突触终末;(c)突触强化(LTP)与突触弱化(LTD);(d)(上)神经元轴丘膜电位动态变化,(下)前后神经元动作电位;(e)基于尖峰时序依赖可塑性(STDP)曲线的LTP与LTD实验记录。
神经调节(Neuromodulation)为学习提供全局信号。多巴胺、乙酰胆碱等递质通过调节神经元兴奋性和突触可塑性,将外部奖励或惩罚信号传递至局部环路,实现“三因素学习”(活动、误差、调节信号结合)。例如,多巴胺的释放可放大与成功行为相关的突触变化,类似于强化学习中的奖励机制。
更高阶的元可塑性(Metaplasticity)则像“可塑性的守护者”,通过调节突触的可塑性阈值,防止网络因过度学习而饱和。胶质细胞(如星形胶质细胞)通过代谢支持和递质回收,间接影响突触稳定性。这些机制共同构成生物学习的动态平衡系统。
人工神经网络的生物灵感:
从脉冲网络到元优化
传统ANNs依赖反向传播,但存在两大局限:能耗高(需全局梯度计算)和无法在线学习(需固定数据集)。脉冲神经网络(SNNs)的提出直击这些痛点。SNNs模拟生物神经元的脉冲通信:神经元积累膜电位,超过阈值时发射脉冲,信息编码于脉冲时序而非激活值。这种机制天然适合处理动态数据,且功耗极低。例如,Intel的Loihi芯片利用SNNs实现比传统GPU高1000倍的能效。
然而,SNNs的权重优化面临挑战:脉冲的离散性使反向传播失效。研究者提出脑启发局部学习算法,如结合STDP和奖励信号的资格迹传播(EligibilityPropagation)。该方法通过记录突触对近期活动的贡献(资格迹),再与全局误差信号相乘更新权重,无需反向传播。实验显示,这类算法在机器人运动控制中可实时适应环境变化,例如地形突变。
元优化可塑性规则取得进一步突破,通过梯度下降或进化算法,自动搜索最优学习规则。例如,可微分可塑性(DifferentiablePlasticity)将学习规则的参数(如STDP的时间常数)设为可微变量,用元训练使其适应特定任务。在图像分类任务中,此类模型展现出与反向传播相当的性能,且支持在线微调。
应用蓝图:从神经形态芯片到终身学习机器人
神经形态计算(NeuromorphicComputing)是脑启发学习的硬件载体。IBMTrueNorth、英特尔Loihi等芯片通过模拟神经元和突触的物理特性,支持SNNs的高效部署。例如,Loihi芯片在语音识别任务中仅需毫瓦级功耗,为边缘计算开辟新可能。
在机器人领域,局部学习规则赋予系统实时适应能力。加州大学团队将STDP与三因素学习结合,使六足机器人在腿部损伤后数秒内调整步态;苏黎世联邦理工学院利用脉冲网络控制机械臂,通过在线学习补偿传感器噪声,精度提升40%。终身学习(LifelongLearning)是另一关键战场。传统ANNs因灾难性遗忘(CatastrophicForgetting)难以持续学习新任务。脑启发算法通过稀疏脉冲活动、突触稳定性机制缓解这一问题。例如,资格迹传播模型在连续手写字符识别任务中,旧任务准确率保持90%以上,而传统方法降至60%。
图2.前馈神经网络通过将输入信息向下游传递来计算给定输入对应的输出。输出的精确值由突触连接权重系数决定。为提升特定任务下的输出表现,需要调整突触权重。突触可塑性算法作为计算模型,模拟了大脑基于神经活动强化或弱化神经元间连接(即突触)的能力,从而促进学习与记忆的形成。三因素可塑性是指一类突触可塑性模型,其中神经连接强度的改变由三个要素决定:突触前活动、突触后活动及调控信号,这种机制能实现更精细的自适应学习过程。反馈对齐算法是一种神经网络训练技术,其使用随机固定的反馈连接而非对称权重矩阵进行训练,证明即使没有精确的反向传播也能实现有效学习。反向传播作为机器学习与人工智能领域的基础算法,通过计算损失函数对网络权重的梯度来训练神经网络。
未来挑战:从算法到神经科学的双向奔赴
尽管脑启发学习前景广阔,其发展仍面临瓶颈:首先,局部学习规则泛化能力弱于反向传播,需要考虑生物合理性与性能的权衡;其次,生物学习规则复杂度较高,现有神经形态芯片的兼容性需考虑,可能尚无法提供支持;最后,为了更好发挥生物设计的效果,需神经科学实验与计算模型更紧密互动,进行多重跨学科的验证。
神经科学对AI的启示“并非直接复制,而是提出关键问题”。反向传播是否隐含于大脑反馈环路?多巴胺如何协调分布式学习?这些问题的探索将推动AI与脑科学的共进。或许,下一代AI将不仅是“人工”智能,更是“类脑”智能。
阅读最新前沿科技趋势报告,请访问欧米伽研究所的“未来知识库”
https ://wx.zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx.zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
(加入未来知识库,全部资料免费阅读和下载)
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡:超级智能机构:赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
壳牌:2025能源安全远景报告:能源与人工智能(57页)
盖洛普&牛津幸福研究中心:2025年世界幸福报告(260页)
Schwab:2025未来共生:以集体社会创新破解重大社会挑战研究报告(36页)
IMD:2024年全球数字竞争力排名报告:跨越数字鸿沟人才培养与数字法治是关键(214页)
DS系列专题:DeepSeek技术溯源及前沿探索,50页ppt
联合国人居署:2024全球城市负责任人工智能评估报告:利用AI构建以人为本的智慧城市(86页)
TechUK:2025全球复杂多变背景下的英国科技产业:战略韧性与增长路径研究报告(52页)
NAVEXGlobal:2024年十大风险与合规趋势报告(42页)
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma:2024年全球生物制药行业展望报告:增长驱动力分析(29页)
【AAAI2025教程】基础模型与具身智能体的交汇,350页ppt
Tracxn:2025全球飞行汽车行业市场研究报告(45页)
谷歌:2024人工智能短跑选手(AISprinters):捕捉新兴市场AI经济机遇报告(39页)
【斯坦福博士论文】构建类人化具身智能体:从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心:2025CSET对美国人工智能行动计划的建议(18页)
罗兰贝格:2024人形机器人的崛起:从科幻到现实:如何参与潜在变革研究报告(11页)
兰德公司:2025从研究到现实:NHS的研究和创新是实现十年计划的关键报告(209页)
康桥汇世(CambridgeAssociates):2025年全球经济展望报告(44页)
国际能源署:2025迈向核能新时代
麦肯锡:人工智能现状,组织如何重塑自身以获取价值
威立(Wiley):2025全球科研人员人工智能研究报告(38页)
牛津经济研究院:2025TikTok对美国就业的量化影响研究报告:470万岗位(14页)
国际能源署(IEA):能效2024研究报告(127页)
Workday:2025发挥人类潜能:人工智能(AI)技能革命研究报告(20页)
CertiK:Hack3D:2024年Web3.0安全报告(28页)
世界经济论坛:工业制造中的前沿技术:人工智能代理的崛起》报告
迈向推理时代:大型语言模型的长链推理研究综述
波士顿咨询:2025亚太地区生成式AI的崛起研究报告:从技术追赶者到全球领导者的跨越(15页)
安联(Allianz):2025新势力崛起:全球芯片战争与半导体产业格局重构研究报告(33页)
IMT:2025具身智能(EmbodiedAI)概念、核心要素及未来进展:趋势与挑战研究报告(25页)
IEEE:2025具身智能(EmbodiedAI)综述:从模拟器到研究任务的调查分析报告(15页)
CCAV:2025当AI接管方向盘:自动驾驶场景下的人机交互认知重构、变革及对策研究报告(124页)
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能:进展、挑战与未来方向综述》
全国机器人标准化技术委员会:人形机器人标准化白皮书(2024版)(96页)
美国国家科学委员会(NSB):2024年研究与发展-美国趋势及国际比较(51页)
艾昆纬(IQVIA):2025骨科手术机器人技术的崛起白皮书:创新及未来方向(17页)
NPL&Beauhurst:2025英国量子产业洞察报告:私人和公共投资的作用(25页)
IEAPVPS:2024光伏系统经济与技术关键绩效指标(KPI)使用最佳实践指南(65页)
AGI智能时代:2025让DeepSeek更有趣更有深度的思考研究分析报告(24页)
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告(37页)
华为:2025鸿蒙生态应用开发白皮书(133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟(QuIC):2024年全球量子技术专利态势分析白皮书(34页)
美国能源部:2021超级高铁技术(Hyperloop)对电网和交通能源的影响研究报告(60页)
罗马大学:2025超级高铁(Hyperloop):第五种新型交通方式-技术研发进展、优势及局限性研究报告(72页)
兰德公司:2025灾难性网络风险保险研究报告:市场趋势与政策选择(93页)
GTI:2024先进感知技术白皮书(36页)
AAAI:2025人工智能研究的未来报告:17大关键议题(88页)
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信:2025全球洪水风险研究报告:现状、趋势及应对措施(22页)
兰德公司:迈向人工智能治理研究报告:2024EqualAI峰会洞察及建议(19页)
哈佛商业评论:2025人工智能时代下的现代软件开发实践报告(12页)
德安华:全球航空航天、国防及政府服务研究报告:2024年回顾及2025年展望(27页)
奥雅纳:2024塑造超级高铁(Hyperloop)的未来:监管如何推动发展与创新研究报告(28页)
HSOAC:2025美国新兴技术与风险评估报告:太空领域和关键基础设施(24页)
Dealroom:2025欧洲经济与科技创新发展态势、挑战及策略研究报告(76页)
《无人机辅助的天空地一体化网络:学习算法技术综述》
谷歌云(GoogleCloud):2025年AI商业趋势白皮书(49页)
《新兴技术与风险分析:太空领域与关键基础设施》最新报告
150页!《DeepSeek大模型生态报告》
军事人工智能行业研究报告:技术奇点驱动应用加速智能化重塑现代战争形态-250309(40页)
真格基金:2024美国独角兽观察报告(56页)
璞跃(PlugandPlay):2025未来商业研究报告:六大趋势分析(67页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界:多模态生成模型的统一综述
中国信息协会低空经济分会:低空经济发展报告(2024-2025)(117页)
浙江大学:2025语言解码双生花:人类经验与AI算法的镜像之旅(42页)
人形机器人行业:由“外”到“内”智能革命-250306(51页)
大成:2025年全球人工智能趋势报告:关键法律问题(28页)
北京大学:2025年DeepSeek原理和落地应用报告(57页)
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校:面向科学发现的多模态基础模型:在化学、材料和生物学中的应用
电子行业:从柔性传感到人形机器人触觉革命-250226(35页)
RT轨道交通:2024年中国城市轨道交通市场数据报告(188页)
FastMoss:2024年度TikTok生态发展白皮书(122页)
CheckPoint:2025年网络安全报告-主要威胁、新兴趋势和CISO建议(57页)
【AAAI2025教程】评估大型语言模型:挑战与方法,199页ppt
《21世纪美国的主导地位:核聚变》最新报告
沃尔特基金会(VoltaFoundation):2024年全球电池行业年度报告(518页)
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
国际科学理事会:2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告(英文版)(118页)
光子盒:2025全球量子计算产业发展展望报告(184页)
奥纬论坛:2025塑造未来的城市研究报告:全球1500个城市的商业吸引力指数排名(124页)
FutureMatters:2024新兴技术与经济韧性:日本未来发展路径前瞻报告(17页)
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性:从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用:近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心:2024美国民众对气候变化及应对政策的态度调研报告:气候政策对美国经济影响的多元观点审视(28页)
空间计算行业深度:发展趋势、关键技术、行业应用及相关公司深度梳理-250224(33页)
Gartner:2025网络安全中的AI:明确战略方向研究报告(16页)
北京大学:2025年DeepSeek系列报告-提示词工程和落地场景(86页)
北京大学:2025年DeepSeek系列报告-DeepSeek与AIGC应用(99页)
CIC工信安全:2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告(42页)
中科闻歌:2025年人工智能技术发展与应用探索报告(61页)
AGI智能时代:2025年Grok-3大模型:技术突破与未来展望报告(28页)
上下滑动查看更多