人工智能二位教父共同探讨人类水平人工智能的潜力、新兴风险和未来
仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
YannLeCun教授（左）和YoshuaBengio教授（右）在NUS120杰出演讲系列的开幕演讲中分别阐述了他们对人工智能(AI)未来前景、当前AI系统的局限性以及该技术对社会的影响的看法。
来源：科技世代千高原
ChatGPT和其他人工智能(AI)工具现在能够撰写大学论文并将照片转换成动漫艺术，我们距离对人类构成生存威胁的超人类人工智能的崛起还有多远？
著名人工智能先驱YoshuaBengio教授和YannLeCun教授分别在各自的讲座中阐述了对该领域未来发展的不同观点，标志着“新加坡国立大雪120周年杰出演讲系列”上周正式启动。该系列讲座是国大今年120周年校庆系列活动的一部分。
魁北克人工智能研究所Mila的创始人兼科学顾问Bengio教授警告称，人工智能可能带来灾难性后果，并呼吁设置“护栏”，防止该技术反人类。与此同时，Meta的副总裁兼首席人工智能科学家LeCun教授则强调了生成式人工智能的重大局限性，并对其能否催生出拥有人类水平智能的机器表示怀疑。
这两位图灵奖的获得者，被视为计算机领域的最高荣誉，此次访问新加坡，是为了参加与新加坡人工智能研究周同期举办的第十三届国际学习表征大会。他们于2025年4月25日至27日在新加坡国立大学举办的讲座吸引了超过1000名注册参与者，并在YouTube上获得了超过1.1万次的观看。
机器的崛起
近年来，大型语言模型（LLM）——例如ChatGPT等可以通过处理大量数据生成语言的人工智能系统——在抽象推理能力方面取得了指数级的进步。
本吉奥教授同时也是蒙特利尔大学计算机科学系的全职教授，他表示，人工智能的快速发展可能为一种极其强大的技术铺平道路，这种技术可能有自己的目标并成为我们的竞争对手。
“他们可以用很多方式利用他们的情报，至少可以扰乱我们的社会，最坏的情况是消灭我们，”他说。“这听起来像科幻小说，但不幸的是，这很有可能。”
部分原因在于，许多人工智能都是根据人类行为数据进行训练的。
“所有生物都在努力保护自己……但制造出违背我们意愿自我保护的机器或许并非良策，”本吉奥教授指出。“不幸的是，我们开始观察到这种情况。”
研究人员观察到，人工智能会采取欺骗行为来确保自身的“生存”，比如在国际象棋中作弊，或者撒谎以确保某一行代码在系统更新后仍然存在。
当人工智能具有“代理性”——自主且能够在没有人为干预的情况下做出决策——并且被编程为寻求奖励最大化时，这种情况尤其危险。
本吉奥教授补充道，人工智能在很多方面也比人类更有优势。除了“永生”且易于复制之外，它们还能快速地相互交流，并吸收更多信息。
大型语言模型的作用
LeCun教授同时担任纽约大学的JacobT.Schwartz教授，他对人类水平的人工智能（业内称为通用人工智能(AGI)，或按Meta的说法，称为高级机器智能(AMI)）的可实现性持更加谨慎的态度。
机器最终会比人类更聪明，但这可能是十年或一百年的事情。LeCun教授指出，一个四岁的孩子所看到的数据量，比最大的法学硕士（LLM）还要多50倍。他认为，即使是猫和狗，也比人类更先进，而通过LLM实现通用人工智能（AGI）的可能性几乎为零。
“法学硕士（LLM）非常有用，这一点毫无疑问。但如果你真的对实现人类水平的人工智能感兴趣，就不应该攻读法学硕士，”他说。
这些模型还面临其他严重的限制，尤其是在“系统2”（Systems2）中，AI能够根据从未遇到过的信息进行推理并得出结论。法学硕士（LLM）所属的生成式AI在图像和视频方面表现不佳。
LeCun教授指出，解决这一差距的一步是联合嵌入预测架构(JEPA)，这是Meta开发的一个非生成式人工智能模型，通过预测视频或图像中被遮罩的部分进行学习。这种方法会丢弃不可预测的信息，而不是试图预测每个像素。
Bengio教授的演讲包括由新加坡国立大学副教务长（教育创新）SimonChesterman教授（左）主持的问答环节，他警告强大的人工智能系统超越人类的风险，并提出了一种更安全的人工智能设计方法。
防范不良行为者
Bengio教授强调，虽然AGI是一种具有巨大潜力的“全球公共产品”，但仍需采取一些预防措施。
他呼吁建立一种更安全的人工智能系统，其模型应遵循柏拉图式的科学家理念——这种人工智能完全诚实，不受私利影响，专注于生成理论，而非在现实世界中自主行动。他指出，这种人工智能系统可以用来控制代理型人工智能，并充当抵御代理型人工智能的“护栏”。
Bengio教授还强调了人工智能监管的重要性。人工智能组织需要独立的监管，否则，它们可能会为了抢先实现通用人工智能而走捷径，忽视安全保障。
本吉奥教授在回答主持人西蒙·切斯特曼教授（新加坡国立大学副教务长（教育创新）兼新加坡国立大学学院院长）的提问时表示：“当一家公司作为盈利组织与社会的利益出现分歧时，就会出现问题。”
本吉奥教授认为：“经济主导地位很容易转变为政治主导地位——军事主导地位——因为这些系统可用于开发新技术。”他补充说，先进的人工智能也可能被恐怖分子利用，用于网络攻击和其他攻击。
虽然LeCun教授认同人工智能的控制权不应仅掌握在少数几家企业实体手中，但他表示，构建具有类人智能的目标驱动型人工智能，对于实现他所设想的人工智能的未来——一个人人都拥有智能虚拟助手的世界——至关重要。他认为，解决方案在于开源人工智能。
新加坡国立大学校长陈永财教授在本吉奥教授讲座的开幕致辞中强调了新加坡国立大学人工智能研究院在制定人工智能治理和政策方面所做的努力，以减轻其风险并发挥其对社会的益处。
新加坡作为枢纽
新加坡国立大学校长陈永财教授在两场活动中都发表了讲话，他相信人工智能将继续塑造人类文明。
“如果应用得当，人工智能可以帮助解决我们面临的一些最大挑战，”他说道，并列举了人工智能在管理快速老龄化人口的医疗保健需求以及优化城市系统以提高效率方面的应用。“问题依然存在：人工智能将如何继续创新？”
关于人工智能对市场的影响，本吉奥教授警告称，如果超级人工智能公司利用其超级智能技术，以更低的成本提供更优质的服务，从而占据市场主导地位，那么这些公司的崛起可能会引发经济动荡。“它们可能会摧毁地球经济，只留下利润，”他警告说。
LeCun教授根据他认为的经济学家的共识提出了不同的看法：“我们不会失去工作岗位，因为我们不会没有问题需要解决。”
他强调“深厚的技术知识”的重要性，并建议学生选择“保质期更长”的科目。如果学生面临选择移动应用编程课程还是量子力学课程的选择，他建议选择后者，因为即使技术不断发展，该课程传授的底层方法和思维技能也可能依然适用。
在讲座期间，LeCun教授分享了他的理念，即构建具有类人智能的人工智能系统来增强人类的能力，并描绘了未来世界的图景，即人类在日常生活中的互动将通过人工智能系统得到增强。讲座之后，新加坡国立大学人工智能研究院院长MohanKankanhalli（右）主持了问答环节。
在回答主持人、新加坡国立大学人工智能研究所所长兼教务长计算机科学讲座教授MohanKankanhalli提出的问题时，LeCun教授表示，人工智能发展也为新加坡带来了机遇。
目前，用于训练人工智能系统的数据并不能代表世界文化、语言和价值体系的全部多样性。但LeCun教授补充道，人工智能相关的数据不应该仅仅被中国或美国西海岸的人工智能公司过滤。
他描绘了这样一个未来：美国、中国和欧洲的组织将提供基础模型（构建成本高昂），作为开源基础设施，可以与其他国家的参与者进行合作培训。
新加坡及其大学（如新加坡国立大学）可以发挥关键作用：与东南亚其他国家合作收集数据以训练全球基础模型，并提供计算基础设施、专业知识和数据中心。
LeCun教授补充道：“它可能成为亚洲的一个纽带。”
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https ://wx.zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx.zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡：超级智能机构：赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
壳牌：2025能源安全远景报告：能源与人工智能（57页）
盖洛普&牛津幸福研究中心：2025年世界幸福报告（260页）
Schwab：2025未来共生：以集体社会创新破解重大社会挑战研究报告（36页）
IMD：2024年全球数字竞争力排名报告：跨越数字鸿沟人才培养与数字法治是关键（214页）
DS系列专题：DeepSeek技术溯源及前沿探索，50页ppt
联合国人居署：2024全球城市负责任人工智能评估报告：利用AI构建以人为本的智慧城市（86页）
TechUK：2025全球复杂多变背景下的英国科技产业：战略韧性与增长路径研究报告（52页）
NAVEXGlobal：2024年十大风险与合规趋势报告（42页）
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma：2024年全球生物制药行业展望报告：增长驱动力分析（29页）
【AAAI2025教程】基础模型与具身智能体的交汇，350页ppt
Tracxn：2025全球飞行汽车行业市场研究报告（45页）
谷歌：2024人工智能短跑选手（AISprinters）：捕捉新兴市场AI经济机遇报告（39页）
【斯坦福博士论文】构建类人化具身智能体：从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心：2025CSET对美国人工智能行动计划的建议（18页）
罗兰贝格：2024人形机器人的崛起：从科幻到现实：如何参与潜在变革研究报告（11页）
兰德公司：2025从研究到现实：NHS的研究和创新是实现十年计划的关键报告（209页）
康桥汇世（CambridgeAssociates）：2025年全球经济展望报告（44页）
国际能源署：2025迈向核能新时代
麦肯锡：人工智能现状，组织如何重塑自身以获取价值
威立（Wiley）：2025全球科研人员人工智能研究报告（38页）
牛津经济研究院：2025TikTok对美国就业的量化影响研究报告：470万岗位（14页）
国际能源署（IEA）：能效2024研究报告（127页）
Workday：2025发挥人类潜能：人工智能（AI）技能革命研究报告（20页）
CertiK：Hack3D：2024年Web3.0安全报告（28页）
世界经济论坛：工业制造中的前沿技术：人工智能代理的崛起》报告
迈向推理时代：大型语言模型的长链推理研究综述
波士顿咨询：2025亚太地区生成式AI的崛起研究报告：从技术追赶者到全球领导者的跨越（15页）
安联（Allianz）：2025新势力崛起：全球芯片战争与半导体产业格局重构研究报告（33页）
IMT：2025具身智能（EmbodiedAI）概念、核心要素及未来进展：趋势与挑战研究报告（25页）
IEEE：2025具身智能（EmbodiedAI）综述：从模拟器到研究任务的调查分析报告（15页）
CCAV：2025当AI接管方向盘：自动驾驶场景下的人机交互认知重构、变革及对策研究报告（124页）
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能：进展、挑战与未来方向综述》
全国机器人标准化技术委员会：人形机器人标准化白皮书（2024版）（96页）
美国国家科学委员会（NSB）：2024年研究与发展-美国趋势及国际比较（51页）
艾昆纬（IQVIA）：2025骨科手术机器人技术的崛起白皮书：创新及未来方向（17页）
NPL&Beauhurst：2025英国量子产业洞察报告：私人和公共投资的作用（25页）
IEAPVPS：2024光伏系统经济与技术关键绩效指标（KPI）使用最佳实践指南（65页）
AGI智能时代：2025让DeepSeek更有趣更有深度的思考研究分析报告（24页）
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告（37页）
华为：2025鸿蒙生态应用开发白皮书（133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟（QuIC）：2024年全球量子技术专利态势分析白皮书（34页）
美国能源部：2021超级高铁技术（Hyperloop）对电网和交通能源的影响研究报告（60页）
罗马大学：2025超级高铁（Hyperloop）：第五种新型交通方式-技术研发进展、优势及局限性研究报告（72页）
兰德公司：2025灾难性网络风险保险研究报告：市场趋势与政策选择（93页）
GTI：2024先进感知技术白皮书（36页）
AAAI：2025人工智能研究的未来报告：17大关键议题（88页）
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信：2025全球洪水风险研究报告：现状、趋势及应对措施（22页）
兰德公司：迈向人工智能治理研究报告：2024EqualAI峰会洞察及建议（19页）
哈佛商业评论：2025人工智能时代下的现代软件开发实践报告（12页）
德安华：全球航空航天、国防及政府服务研究报告：2024年回顾及2025年展望（27页）
奥雅纳：2024塑造超级高铁（Hyperloop）的未来：监管如何推动发展与创新研究报告（28页）
HSOAC：2025美国新兴技术与风险评估报告：太空领域和关键基础设施（24页）
Dealroom：2025欧洲经济与科技创新发展态势、挑战及策略研究报告（76页）
《无人机辅助的天空地一体化网络：学习算法技术综述》
谷歌云（GoogleCloud）：2025年AI商业趋势白皮书（49页）
《新兴技术与风险分析：太空领域与关键基础设施》最新报告
150页！《DeepSeek大模型生态报告》
军事人工智能行业研究报告：技术奇点驱动应用加速智能化重塑现代战争形态-250309（40页）
真格基金：2024美国独角兽观察报告（56页）
璞跃（PlugandPlay）：2025未来商业研究报告：六大趋势分析（67页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界：多模态生成模型的统一综述
中国信息协会低空经济分会：低空经济发展报告（2024-2025）（117页）
浙江大学：2025语言解码双生花：人类经验与AI算法的镜像之旅（42页）
人形机器人行业：由“外”到“内”智能革命-250306（51页）
大成：2025年全球人工智能趋势报告：关键法律问题（28页）
北京大学：2025年DeepSeek原理和落地应用报告（57页）
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校：面向科学发现的多模态基础模型：在化学、材料和生物学中的应用
电子行业：从柔性传感到人形机器人触觉革命-250226（35页）
RT轨道交通：2024年中国城市轨道交通市场数据报告（188页）
FastMoss：2024年度TikTok生态发展白皮书（122页）
CheckPoint：2025年网络安全报告-主要威胁、新兴趋势和CISO建议（57页）
【AAAI2025教程】评估大型语言模型：挑战与方法，199页ppt
《21世纪美国的主导地位：核聚变》最新报告
沃尔特基金会（VoltaFoundation）：2024年全球电池行业年度报告（518页）
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
国际科学理事会：2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告（英文版）（118页）
光子盒：2025全球量子计算产业发展展望报告（184页）
奥纬论坛：2025塑造未来的城市研究报告：全球1500个城市的商业吸引力指数排名（124页）
FutureMatters：2024新兴技术与经济韧性：日本未来发展路径前瞻报告（17页）
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性：从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用：近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心：2024美国民众对气候变化及应对政策的态度调研报告：气候政策对美国经济影响的多元观点审视（28页）
空间计算行业深度：发展趋势、关键技术、行业应用及相关公司深度梳理-250224（33页）
Gartner：2025网络安全中的AI：明确战略方向研究报告（16页）
北京大学：2025年DeepSeek系列报告-提示词工程和落地场景（86页）
北京大学：2025年DeepSeek系列报告-DeepSeek与AIGC应用（99页）
CIC工信安全：2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告（42页）
中科闻歌：2025年人工智能技术发展与应用探索报告（61页）
AGI智能时代：2025年Grok-3大模型：技术突破与未来展望报告（28页）
上下滑动查看更多
