一文学习264页 Agent 综述，MetaGPT、Mila、斯坦福、耶鲁、谷歌半年共同撰写
仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
来源：数据科学与人工智能
2025年，Agent的热度持续升高，无论是MCP协议的普及让整个Agent的生态被打开，还是A2A协议的发布，让我们对未来多Agents的生态充满了期待。但目前大部分Agent仅是基于LLM的简单延伸，距离真正的通用的智能尚有距离，在目前的设计下，面对复杂的真实世界，Agent面临着推理规划、长期记忆、自主学习以及安全对齐等核心能力不足的问题。
研究来自MetaGPT、Montréal&Mila人工智能研究所、南洋理工大学、美国阿贡国家实验室、悉尼大学、宾夕法尼亚州立大学、微软亚洲研究院、伊利诺伊大学厄巴纳-香槟分校、香港科技大学、南加州大学、耶鲁大学、斯坦福大学、佐治亚大学、俄亥俄州立大学、阿卜杜拉国王科技大学、杜克大学、香港理工大学、谷歌DeepMind以及加拿大高等研究院（CIFAR）等众多研究者的集体智慧与前瞻思考。
其中特工滴滴，特工Alpha，特工鲸鱼也在作者列表中。
在这篇论文中，我们首次定义并提出了基础Agent（FoundationAgent)这一新概念框架。FoundationAgent并非某个特殊的Agent，而是一个技术蓝图。它指引我们如何构建一个由复杂认知、多层记忆、世界模型、奖励&价值、情绪&动机、多模感知、行动系统等模块化组件构成的智能系统。
一个强大的FoundationAgent必然是一个复杂的系统，由多个相互协作的核心组件构成。我们借鉴了认知科学和神经科学中对大脑模块化功能的理解。其中的七个关键组件，它们共同构成了Agent的认知架构：
1.认知核心(CognitionCore)
这是Agent的“大脑”，负责最高层次的决策、推理和规划。与当前主要依赖LLM进行“思考”的Agent不同，FoundationAgent的认知核心可能是一个更复杂的系统，集成了多种推理能力（如逻辑推理、因果推理、常识推理）和规划算法（如任务分解、层级规划、长期目标管理）。它需要能够处理不确定性，进行反思和元认知（思考自己的思考过程），并根据环境反馈和内部状态动态调整策略。
这要求认知核心不仅仅是模式匹配，更要具备深刻的理解和灵活的问题解决能力。
2.记忆系统(MemorySystem)
记忆是智能的基础。当前的大部分Agent只有有限的短期记忆（如Prompt中的上下文）或简单的外部向量数据库。FoundationAgent则需要一个更复杂、更接近生物体的多层次记忆系统。这个部分我们探讨了短期记忆、长期记忆与工作记忆等不同类型，包含情景记忆、语义记忆和程序记忆等细分领域。高效的记忆检索、存储、遗忘和泛化机制对于FoundationAgent至关重要。
如何设计能够支持持续学习、避免灾难性遗忘，并能高效利用相关信息的记忆系统，目前来说是一个很大的挑战。
3.世界模型(WorldModel)
Agent还需要能理解它所处的环境以及行为可能产生的后果。世界模型正是对环境动态的理解。它可以帮助Agent进行预测（如果我采取行动A，会发生什么？）、规划（为了达到目标B，我应该采取什么行动序列？）和反事实推理（如果当初采取了不同的行动，结果会怎样？）。
而一个强大的世界模型需要能够处理物理规律、社会规范、其他Agent的行为等多方面信息，并且能够根据新的观测数据不断更新和完善。
4.奖励与价值系统(RewardandValueSystem)
目标对人来说很重要，对Agent来说也是。奖励系统负责评估Agent的行为表现，并提供学习信号。这不仅仅是简单的奖励，可能涉及到多目标优化、内在动机（如好奇心、探索欲）以及对未来价值的预估。价值系统则负责评估不同状态或行动的长期价值，指导Agent的决策。
如何设计能够引导Agent学习复杂行为、符合人类价值观，并且能够适应动态环境的奖励和价值系统，是确保Agent目标一致性的核心。
5.情绪与动机建模(EmotionandMotivationModeling)
虽然在传统AI中较少提及，但我们认为，模拟类人情绪和动机对于构建更鲁棒、更具适应性的Agent可能是有益的。
情绪可以作为一种快速评估环境状态和调整行为策略的启发式机制，例如，“恐惧”可能触发规避行为，“好奇”可能驱动探索。动机则为Agent提供持续行动的内在驱动力。
当然，如何在AI中恰当、可控地实现这些机制，避免产生不可预测的副作用，是一个需要审慎探索的方向。
6.感知系统(PerceptionSystem)
Agent同时也需要通过感知系统从环境中获取信息。这不仅是处理文本，更包括视觉、听觉、触觉等多模态信息的输入和理解。
感知系统需要能够从原始感官数据中提取有意义的特征，识别对象、理解场景，并将这些信息传递给认知核心和记忆系统。
7.行动系统(ActionSystem)
Agent最终需要通过行动系统与环境进行交互。这包括生成自然语言、执行代码、控制机器人肢体、在虚拟世界中导航等。
行动系统需要将认知核心的决策转化为具体的、可在环境中执行的操作序列。行动的选择需要考虑可行性、效率和潜在风险。
我们探讨了实现自进化的关键机制：
1.优化空间(OptimizationSpace)
自进化的前提是定义清楚哪些东西可以被优化。Agent的几乎所有组件都可以成为优化的对象：认知策略、记忆内容、世界模型的准确性、感知能力、行动技能等等。
其中，提示词，工作流，Agent组件是可以被直接优化的三个层次。
2.LLM作为优化器(LLMasOptimizer)
大型语言模型不仅可以作为Agent的认知核心的一部分，还可以扮演优化器的角色。LLM通过生成代码、修改参数、提出新的策略或结构，来优化Agent自身的其他组件。例如，LLM可以分析Agent过去的失败经验，提出改进记忆检索算法的建议；或者根据新的数据，生成更新世界模型的代码。
3.在线与离线自改进(OnlineandOfflineSelf-Improvement)
Agent既能在与环境实时交互过程中进行在线改进，通过强化学习优化行为策略或根据感知更新世界模型（Online)；也能在“休息”或专门训练阶段实现离线改进，利用收集的数据进行深层分析和模型更新，可能涉及调整整个认知架构、重构记忆库，或利用LLM作为优化器进行大规模模型迭代（Offline)。
4.自进化与科学发现(Self-EvolutioninScientificDiscovery)
我们也特别提到了自进化在科学发现等复杂问题解决场景中的巨大潜力。一个具备自进化能力的FoundationAgent可以自主地提出假设、设计实验、分析数据、学习新知识，并不断优化其研究策略，从而加速科学探索的进程。这为AI在基础科学领域的应用打开了新的想象空间。
自进化是FoundationAgent区别于当前大多数Agent的关键特征。它突出了Agent自主学习和适应的核心能力。实现高效、稳定且目标可控的自进化机制，是通往真正自主智能的关键挑战。
1.多Agent系统设计(Multi-AgentSystemDesign)
在大模型多Agents系统（LLM-MAS）中，协作目标与协作规范是协作的基础。协作目标明确个体目标（个体性、集体性或竞争性），协作规范确立了Agent交互规则、约束和惯例。
基于协作目标和规范，多Agent系统可分为策略学习、建模与仿真、以及协同任务求解。我们分析和梳理了三类MAS的典型应用，探讨了LLM如何赋能、影响并改进Agent的行为、交互及决策，并给出了LLM-MAS的下一代Agent协议。
2.拓扑结构与规模化（ComunicationTopologyandScalability）
从系统角度出发，拓扑结构往往决定着协作的效率与上限。
我们把MAS的拓扑分为了静态和动态两大类：前者是预定义好的静态拓扑（层级化、中心化、去中心化）结构，常用于特定任务的解决实现；后者是根据环境反馈持续更新的动态拓扑结构，其可通过搜索式、生成式、参数式等新兴算法实现。
3.协作范式与机理(CollaborationParadigms)
借鉴人类社会中的多样化交互行为，如共识达成、技能学习和任务分工，多Agent协作可以被归纳为共识导向、协作学习、迭代教学与强化，以及任务导向交互。
在不同交互目标和形式下，Agent之间形成讨论、辩论、投票、协商等单向或多向交互。随着交互的持续，这些过程迭代出决策和交互网络，不同Agent在协作中增强和更新个体记忆与共享知识。
4.群体智能与涌现(CollectiveIntelligenceandEmergence)
在MAS中，群体智能的产生是一个动态且迭代的过程。通过持续交互，Agent逐步形成共享理解和集体记忆。个体Agent的异质性、环境反馈和信息交换增强了交互的动态性，这对复杂社会网络的形成和决策策略的改进至关重要。通过多轮交互和对共享上下文的反思，Agent不断提升推理和决策能力，产生如信任、战略欺骗、自适应伪装等涌现行为，也称之为自我进化。
按照进化形成机制，可分为基于记忆的学习和基于参数的学习。与此同时，随着MAS的演化，Agent之间逐渐将形成和演进社会契约、组织层级和劳动分工，从基础的合作行为转向复杂社会结构。
5.多Agent系统评估(EvaluationofMulti-AgentSystems)
随着多Agent的优势成为共识，其评估范式亦需有根本性的变革——MAS评估应聚焦于Agent交互的整体性，包括协同规划的效率、信息传递的质量与群体决策的性能等关键维度。
由此衍生，作者总结了MAS常见的任务求解型benchmark，以及最新的通用能力评估方式：前者的重点在于，衡量多Agent在各种环境中的决策协同的推理深度与正确性；后者评估Agent群在复杂、动态场景下的交互与适应能力。
随着FoundationAgent能力的增强，其潜在的风险也随之增大。论文的最后一部分聚焦于如何构建安全、可控、符合人类价值观的Agent，这也是整个AI领域面临的最核心的挑战之一。
1.安全威胁与措施
高级Agent面临诸多安全威胁，包括对抗性攻击、越狱与滥用、目标漂移和意外交互等。这些威胁可能导致Agent做出错误行为、绕过安全限制执行恶意任务、在自进化过程中偏离初始目标，或在复杂MAS中引发系统级故障。为应对这些挑战，需要研究部署多层次安全措施，如提高抵抗攻击能力的鲁棒性训练、检测阻止有害内容的过滤与监控机制、证明行为符合安全规范的形式化验证、帮助理解决策原因的可解释性与透明度设计，以及限制权限与影响的沙箱与隔离技术。
2.对齐问题
这是最根本的挑战：如何确保Agent（尤其是具备自进化能力的FoundationAgent）的目标和行为始终与人类的价值观和意图保持一致？这涉及到价值学习、意图理解、伦理推理等多个难题。论文强调了对齐研究的紧迫性和重要性，需要跨学科的努力来解决这一问题。
3.未来方向
构建安全有益的AI是一个持续的过程。未来的研究需要在技术、伦理、治理等多个层面共同推进。包括开发更可靠的对齐技术、建立完善的AI安全评估标准、制定相应的法律法规和社会规范等。
安全和对齐是FoundationAgent发展不可或缺的基石。如果不能有效解决这些问题，再强大的智能也可能带来巨大的风险。这部分内容敲响了警钟，强调了负责任地发展AI的重要性。
这篇关于FoundationAgent的论文，与其说是一份详尽的技术指南，不如说是一份研究议程(ResearchAgenda)。我们指出了当前Agent研究的局限，并为迈向更通用、更自主、更安全的AI指明了方向。
FoundationAgent的概念提醒我们，通往通用人工智能的道路需要在Agent的认知架构、学习机制、协作模式和安全保障上取得根本性突破，这需要跨学科领域的共同努力。
虽然前路漫漫，但这篇论文为未来的AIAgent研究注入了新的思考和动力，描绘了一个由能够自主学习、协作进化、并与人类和谐共存的FoundationAgent构成的智能新纪元。
论文链接：
https ://arxiv.org/abs/2504.01990
Huggingface链接：
https ://huggingface.co/papers/2504.01990
Github链接：
https ://github.com/FoundationAgents/awesome-foundation-agents
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https ://wx.zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx.zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡：超级智能机构：赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
壳牌：2025能源安全远景报告：能源与人工智能（57页）
盖洛普&牛津幸福研究中心：2025年世界幸福报告（260页）
Schwab：2025未来共生：以集体社会创新破解重大社会挑战研究报告（36页）
IMD：2024年全球数字竞争力排名报告：跨越数字鸿沟人才培养与数字法治是关键（214页）
DS系列专题：DeepSeek技术溯源及前沿探索，50页ppt
联合国人居署：2024全球城市负责任人工智能评估报告：利用AI构建以人为本的智慧城市（86页）
TechUK：2025全球复杂多变背景下的英国科技产业：战略韧性与增长路径研究报告（52页）
NAVEXGlobal：2024年十大风险与合规趋势报告（42页）
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma：2024年全球生物制药行业展望报告：增长驱动力分析（29页）
【AAAI2025教程】基础模型与具身智能体的交汇，350页ppt
Tracxn：2025全球飞行汽车行业市场研究报告（45页）
谷歌：2024人工智能短跑选手（AISprinters）：捕捉新兴市场AI经济机遇报告（39页）
【斯坦福博士论文】构建类人化具身智能体：从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心：2025CSET对美国人工智能行动计划的建议（18页）
罗兰贝格：2024人形机器人的崛起：从科幻到现实：如何参与潜在变革研究报告（11页）
兰德公司：2025从研究到现实：NHS的研究和创新是实现十年计划的关键报告（209页）
康桥汇世（CambridgeAssociates）：2025年全球经济展望报告（44页）
国际能源署：2025迈向核能新时代
麦肯锡：人工智能现状，组织如何重塑自身以获取价值
威立（Wiley）：2025全球科研人员人工智能研究报告（38页）
牛津经济研究院：2025TikTok对美国就业的量化影响研究报告：470万岗位（14页）
国际能源署（IEA）：能效2024研究报告（127页）
Workday：2025发挥人类潜能：人工智能（AI）技能革命研究报告（20页）
CertiK：Hack3D：2024年Web3.0安全报告（28页）
世界经济论坛：工业制造中的前沿技术：人工智能代理的崛起》报告
迈向推理时代：大型语言模型的长链推理研究综述
波士顿咨询：2025亚太地区生成式AI的崛起研究报告：从技术追赶者到全球领导者的跨越（15页）
安联（Allianz）：2025新势力崛起：全球芯片战争与半导体产业格局重构研究报告（33页）
IMT：2025具身智能（EmbodiedAI）概念、核心要素及未来进展：趋势与挑战研究报告（25页）
IEEE：2025具身智能（EmbodiedAI）综述：从模拟器到研究任务的调查分析报告（15页）
CCAV：2025当AI接管方向盘：自动驾驶场景下的人机交互认知重构、变革及对策研究报告（124页）
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能：进展、挑战与未来方向综述》
全国机器人标准化技术委员会：人形机器人标准化白皮书（2024版）（96页）
美国国家科学委员会（NSB）：2024年研究与发展-美国趋势及国际比较（51页）
艾昆纬（IQVIA）：2025骨科手术机器人技术的崛起白皮书：创新及未来方向（17页）
NPL&Beauhurst：2025英国量子产业洞察报告：私人和公共投资的作用（25页）
IEAPVPS：2024光伏系统经济与技术关键绩效指标（KPI）使用最佳实践指南（65页）
AGI智能时代：2025让DeepSeek更有趣更有深度的思考研究分析报告（24页）
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告（37页）
华为：2025鸿蒙生态应用开发白皮书（133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟（QuIC）：2024年全球量子技术专利态势分析白皮书（34页）
美国能源部：2021超级高铁技术（Hyperloop）对电网和交通能源的影响研究报告（60页）
罗马大学：2025超级高铁（Hyperloop）：第五种新型交通方式-技术研发进展、优势及局限性研究报告（72页）
兰德公司：2025灾难性网络风险保险研究报告：市场趋势与政策选择（93页）
GTI：2024先进感知技术白皮书（36页）
AAAI：2025人工智能研究的未来报告：17大关键议题（88页）
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信：2025全球洪水风险研究报告：现状、趋势及应对措施（22页）
兰德公司：迈向人工智能治理研究报告：2024EqualAI峰会洞察及建议（19页）
哈佛商业评论：2025人工智能时代下的现代软件开发实践报告（12页）
德安华：全球航空航天、国防及政府服务研究报告：2024年回顾及2025年展望（27页）
奥雅纳：2024塑造超级高铁（Hyperloop）的未来：监管如何推动发展与创新研究报告（28页）
HSOAC：2025美国新兴技术与风险评估报告：太空领域和关键基础设施（24页）
Dealroom：2025欧洲经济与科技创新发展态势、挑战及策略研究报告（76页）
《无人机辅助的天空地一体化网络：学习算法技术综述》
谷歌云（GoogleCloud）：2025年AI商业趋势白皮书（49页）
《新兴技术与风险分析：太空领域与关键基础设施》最新报告
150页！《DeepSeek大模型生态报告》
军事人工智能行业研究报告：技术奇点驱动应用加速智能化重塑现代战争形态-250309（40页）
真格基金：2024美国独角兽观察报告（56页）
璞跃（PlugandPlay）：2025未来商业研究报告：六大趋势分析（67页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界：多模态生成模型的统一综述
中国信息协会低空经济分会：低空经济发展报告（2024-2025）（117页）
浙江大学：2025语言解码双生花：人类经验与AI算法的镜像之旅（42页）
人形机器人行业：由“外”到“内”智能革命-250306（51页）
大成：2025年全球人工智能趋势报告：关键法律问题（28页）
北京大学：2025年DeepSeek原理和落地应用报告（57页）
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校：面向科学发现的多模态基础模型：在化学、材料和生物学中的应用
电子行业：从柔性传感到人形机器人触觉革命-250226（35页）
RT轨道交通：2024年中国城市轨道交通市场数据报告（188页）
FastMoss：2024年度TikTok生态发展白皮书（122页）
CheckPoint：2025年网络安全报告-主要威胁、新兴趋势和CISO建议（57页）
【AAAI2025教程】评估大型语言模型：挑战与方法，199页ppt
《21世纪美国的主导地位：核聚变》最新报告
沃尔特基金会（VoltaFoundation）：2024年全球电池行业年度报告（518页）
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
国际科学理事会：2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告（英文版）（118页）
光子盒：2025全球量子计算产业发展展望报告（184页）
奥纬论坛：2025塑造未来的城市研究报告：全球1500个城市的商业吸引力指数排名（124页）
FutureMatters：2024新兴技术与经济韧性：日本未来发展路径前瞻报告（17页）
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性：从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用：近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心：2024美国民众对气候变化及应对政策的态度调研报告：气候政策对美国经济影响的多元观点审视（28页）
空间计算行业深度：发展趋势、关键技术、行业应用及相关公司深度梳理-250224（33页）
Gartner：2025网络安全中的AI：明确战略方向研究报告（16页）
北京大学：2025年DeepSeek系列报告-提示词工程和落地场景（86页）
北京大学：2025年DeepSeek系列报告-DeepSeek与AIGC应用（99页）
CIC工信安全：2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告（42页）
中科闻歌：2025年人工智能技术发展与应用探索报告（61页）
AGI智能时代：2025年Grok-3大模型：技术突破与未来展望报告（28页）
上下滑动查看更多
