大模型能否读懂真实病历?哈佛医学院发布BRIDGE大规模多语言评测基准


大模型能否读懂真实病历?哈佛医学院发布BRIDGE大规模多语言评测基准

仅用于站内搜索,没有排版格式,具体信息请跳转上方微信公众号内链接

来源:ScienceAI
作者:Jiageng
编辑:ScienceAI
由哈佛大学医学院与附属BWH医院YLab团队领衔,联合UIUC、MIT、斯坦福、梅奥诊所等多个团队,共同发布了BRIDGE—全球首个专注真实临床文本的多语言大语言模型评测!
该测评构建了87个真实世界的电子病历任务,覆盖9种语言,并且评估了65种当前最先进的大语言模型,是当前最全面、规模最大的LLM在医学应用的评测之一。
论文链接:https ://arxiv. org/pdf/2504. 19467
临床实战——大语言模型在医疗的下一个战场
自两年前GPT-4和Med-PaLM-1/2刷榜美国医考USMLE,轻松拿下「专家级」高分,验证了大语言模型(LLM)在医疗任务中的潜力,LLM已被广泛应用于医疗领域。
但伴随着LLM在医疗领域的深入探索,越来越多研究与实践经验表明:考场高分≠临床实践。真实世界的临床文本和任务与文本规范的医考选择题截然不同:
语言风格不同,文本形态灵活
电子病历中大量缩写和临床惯用表达,患者表述中的不规范文本、错别字等;
模板+自由输入混杂,结构松散不一、噪声极高。
任务维度更广,涉及更多考量
不只是选择题,更多临床关心的任务亟待探索:表型提取、ICD-10编码等;
不同语言、不同任务类型、不同临床专业等评估都是刚需。
同时,当前LLM发展迅猛,各家大模型「百花齐放」且更新频繁,越来越需要一个全面的真实临床文本评测构建起LLM开发与临床实践之间的「桥梁」!

医生
快速查看适合自己语言、科室、任务的最优模型,安心选型;
LLM开发者
全面考察模型,精准发现短板,进一步提升模型的适应性;
医院/监管
系统性地分析性能差异,权衡使用方式/部署资源,制定相关标准。
BRIDGE概要
依托于团队前期发表于《NEJMAI》的全球临床文本数据集系统性综述[ 1],收集整理了大量开源的临床文本数据集,并进一步加以改造适应于LLM执行,从而构建了目前规模最大、覆盖最全的多语言真实世界临床文本(电子病历和在线问诊)数据大语言模型评测。
目前,已全面评估了65个当前最先进的LLM的性能,包括DeepSeek-R1,GoogleGemini,GPT-4o,Qwen3,Llama4,MedGemma,Baichua-M1等开源、闭源、医学专用LLM,结合提出的系统性分类框架,从语言、专业科室、任务类型等多维度提供全面的性能分析,相关结果已上线实时排行榜
相关链接:https ://huggingface. co/spaces/YLab-Open/BRIDGE-Medical-Leaderboard
结果速览
开源模型发展迅猛,DeepSee-R1领跑
三种推理策略下的综合排名:
零样本(Zero-shot)—直接输出目标答案DeepSeek-R1(44. 2),GPT-4o(44. 2),Gemini-1. 5-Pro(43. 8);
思维链(Chain-of-thought)—输出推理过程与答案,增强解释性DeepSeek-R1(42. 2),Gemini-2. 0-Flash(43. 8),GPT-4o(40. 7);
少样本(Few-shot)—提供5个随机的样本,包含完整输入和输出Gemini-1. 5-Pro(55. 5),Gemini-2. 0-Flash(53. 3),GPT-4o(52. 6)。
在最新一轮排行榜中,DeepSeek-R1已超越GPT-4o、Gemini等商业化闭源模型,在零样本和CoT设置下都占据榜首。随着时间推移,开源模型和商业化模型的差距在逐渐缩小。
Mistral、Qwen、Gemma、Llama等一系列开源模型迭代发展、持续发力,直至DeepSeek-R1带来突破。

少样本是最高效的性能提升途径,思维链可能损害性能
给LLM提供5条随机示例,能够使大多数模型性能显著增长,不仅领先的LLM进一步突破,如DeepSeek-R1(44. 2到51.4,+16. 3%),较小的LLM更是「脱胎换骨」,如Llama-3. 2-1B(从12. 7到24.4,+92. 1%。相比之下,思维链虽然能够提高模型解释性,促进与医生患者的交互,但导致了大多数模型的性能下降。
ScalingLaw在医疗领域依旧明显
纵向比对同一模型家族的不同参数版本,整体而言模型越大表现越好,验证了在临床文本任务上的ScalingLaw。业界常用的~70B模型整体性能较优,排在第二梯队,而在小型LLM(≤30B)中,MedGemma和Baichuan-M1-14B两个专门的医学领域模型表现亮眼,为资源受限的部署场景提供了轻量化选项。
医学LLM潜力巨大,但还需全面加强
MedGemma和Baichuan-M1-14B等最新的医学LLM性能强劲,甚至超过了许多70B的模型,但其他医学LLM则表现不佳,甚至未跑赢同代的通用LLM。
同时,这些医学LLM往往在少样本设置下涨点明显,可能表明其指令跟随能力较弱。整体结果暴露出部分医学LLM的基座模型版本偏老,预训练数据、监督训练任务与真实临床文本脱节等潜在问题。
不同任务表现差异较大:
文本分类、自然语言推理等标签明确的分类任务表现较优,而NER与事件提取任务则需要少样本的加持提升性能,表明这些任务更需要示例来澄清详细的标签定义和标准。
与此同时,需要与标准化医疗编码系统(如ICD-10)保持一致的规范化和编码任务仍然特别具有挑战性,因为许多LLM缺乏对这些代码的内置映射。
尽管少样本学习带来适度的改进,但这些编码任务的性能仍然相对较低(约15%)。QA和摘要在内的文本生成任务的平均性能较低约为20%,表明LLM在临床文本生成方面面临着挑战。
更多:多语言、多临床场景、多专科验证
不同语言、不同专科的榜首各有归属:DeepSeek-R1在中文、西班牙语、德语、俄语中独占鳌头,Gemini对英文表现突出。而不同的临床场景和专业科室也表现不同,体现出需要进一步结合具体任务选择合适的模型。
结语
开源模型持续发力,整体性能不逊商业化模型;
少样本推理策略目前是成本最低、收益最稳的LLM提升途径;
70B仍是效果与资源平衡的主流选项,而高质量的小模型正在加速发展;
医学专业模型需要更新基座、拥抱更广泛的真实临床文本与任务;
没有一款模型可以跨所有语言与专科「通吃」,针对性评测与配置仍是落地关键。
要想将LLM在临床领域进一步落地,还需要更多的「BRIDGE」来全面评估LLM在真实世界临床文本与任务中的表现,研发出更加可靠和全面的LLM!
研究助理/博士后机会:

跨学科团队:与Harvard、MIT、Mayo的AI研究员、临床医生合作
数据资源丰富:近2亿份EHR电子病例数据,覆盖180万患者,连接保险理赔数据;同时可以申请MGB十余家合作医院的病历数据。
计算资源:8xH100等高性能GPU,高性能计算集群以及Azure云计算资源研究
前沿:LLMinEHR、医疗文本理解与推理
环境开放灵活,适合科研成长与职业发展
详情请前往招聘页面:https ://ylab. top/opportunities/
参考文献:

阅读最新前沿科技趋势报告,请访问欧米伽研究所的“未来知识库”
https ://wx. zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx. zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
(加入未来知识库,全部资料免费阅读和下载)
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡:超级智能机构:赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
壳牌:2025能源安全远景报告:能源与人工智能(57页)
盖洛普&牛津幸福研究中心:2025年世界幸福报告(260页)
Schwab:2025未来共生:以集体社会创新破解重大社会挑战研究报告(36页)
IMD:2024年全球数字竞争力排名报告:跨越数字鸿沟人才培养与数字法治是关键(214页)
DS系列专题:DeepSeek技术溯源及前沿探索,50页ppt
联合国人居署:2024全球城市负责任人工智能评估报告:利用AI构建以人为本的智慧城市(86页)
TechUK:2025全球复杂多变背景下的英国科技产业:战略韧性与增长路径研究报告(52页)
NAVEXGlobal:2024年十大风险与合规趋势报告(42页)
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma:2024年全球生物制药行业展望报告:增长驱动力分析(29页)
【AAAI2025教程】基础模型与具身智能体的交汇,350页ppt
Tracxn:2025全球飞行汽车行业市场研究报告(45页)
谷歌:2024人工智能短跑选手(AISprinters):捕捉新兴市场AI经济机遇报告(39页)
【斯坦福博士论文】构建类人化具身智能体:从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心:2025CSET对美国人工智能行动计划的建议(18页)
罗兰贝格:2024人形机器人的崛起:从科幻到现实:如何参与潜在变革研究报告(11页)
兰德公司:2025从研究到现实:NHS的研究和创新是实现十年计划的关键报告(209页)
康桥汇世(CambridgeAssociates):2025年全球经济展望报告(44页)
国际能源署:2025迈向核能新时代
麦肯锡:人工智能现状,组织如何重塑自身以获取价值
威立(Wiley):2025全球科研人员人工智能研究报告(38页)
牛津经济研究院:2025TikTok对美国就业的量化影响研究报告:470万岗位(14页)
国际能源署(IEA):能效2024研究报告(127页)
Workday:2025发挥人类潜能:人工智能(AI)技能革命研究报告(20页)
CertiK:Hack3D:2024年Web3. 0安全报告(28页)
世界经济论坛:工业制造中的前沿技术:人工智能代理的崛起》报告
迈向推理时代:大型语言模型的长链推理研究综述
波士顿咨询:2025亚太地区生成式AI的崛起研究报告:从技术追赶者到全球领导者的跨越(15页)
安联(Allianz):2025新势力崛起:全球芯片战争与半导体产业格局重构研究报告(33页)
IMT:2025具身智能(EmbodiedAI)概念、核心要素及未来进展:趋势与挑战研究报告(25页)
IEEE:2025具身智能(EmbodiedAI)综述:从模拟器到研究任务的调查分析报告(15页)
CCAV:2025当AI接管方向盘:自动驾驶场景下的人机交互认知重构、变革及对策研究报告(124页)
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能:进展、挑战与未来方向综述》
全国机器人标准化技术委员会:人形机器人标准化白皮书(2024版)(96页)
美国国家科学委员会(NSB):2024年研究与发展-美国趋势及国际比较(51页)
艾昆纬(IQVIA):2025骨科手术机器人技术的崛起白皮书:创新及未来方向(17页)
NPL&Beauhurst:2025英国量子产业洞察报告:私人和公共投资的作用(25页)
IEAPVPS:2024光伏系统经济与技术关键绩效指标(KPI)使用最佳实践指南(65页)
AGI智能时代:2025让DeepSeek更有趣更有深度的思考研究分析报告(24页)
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告(37页)
华为:2025鸿蒙生态应用开发白皮书(133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟(QuIC):2024年全球量子技术专利态势分析白皮书(34页)
美国能源部:2021超级高铁技术(Hyperloop)对电网和交通能源的影响研究报告(60页)
罗马大学:2025超级高铁(Hyperloop):第五种新型交通方式-技术研发进展、优势及局限性研究报告(72页)
兰德公司:2025灾难性网络风险保险研究报告:市场趋势与政策选择(93页)
GTI:2024先进感知技术白皮书(36页)
AAAI:2025人工智能研究的未来报告:17大关键议题(88页)
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信:2025全球洪水风险研究报告:现状、趋势及应对措施(22页)
兰德公司:迈向人工智能治理研究报告:2024EqualAI峰会洞察及建议(19页)
哈佛商业评论:2025人工智能时代下的现代软件开发实践报告(12页)
德安华:全球航空航天、国防及政府服务研究报告:2024年回顾及2025年展望(27页)
奥雅纳:2024塑造超级高铁(Hyperloop)的未来:监管如何推动发展与创新研究报告(28页)
HSOAC:2025美国新兴技术与风险评估报告:太空领域和关键基础设施(24页)
Dealroom:2025欧洲经济与科技创新发展态势、挑战及策略研究报告(76页)
《无人机辅助的天空地一体化网络:学习算法技术综述》
谷歌云(GoogleCloud):2025年AI商业趋势白皮书(49页)
《新兴技术与风险分析:太空领域与关键基础设施》最新报告
150页!《DeepSeek大模型生态报告》
军事人工智能行业研究报告:技术奇点驱动应用加速智能化重塑现代战争形态-250309(40页)
真格基金:2024美国独角兽观察报告(56页)
璞跃(PlugandPlay):2025未来商业研究报告:六大趋势分析(67页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界:多模态生成模型的统一综述
中国信息协会低空经济分会:低空经济发展报告(2024-2025)(117页)
浙江大学:2025语言解码双生花:人类经验与AI算法的镜像之旅(42页)
人形机器人行业:由“外”到“内”智能革命-250306(51页)
大成:2025年全球人工智能趋势报告:关键法律问题(28页)
北京大学:2025年DeepSeek原理和落地应用报告(57页)
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校:面向科学发现的多模态基础模型:在化学、材料和生物学中的应用
电子行业:从柔性传感到人形机器人触觉革命-250226(35页)
RT轨道交通:2024年中国城市轨道交通市场数据报告(188页)
FastMoss:2024年度TikTok生态发展白皮书(122页)
CheckPoint:2025年网络安全报告-主要威胁、新兴趋势和CISO建议(57页)
【AAAI2025教程】评估大型语言模型:挑战与方法,199页ppt
《21世纪美国的主导地位:核聚变》最新报告
沃尔特基金会(VoltaFoundation):2024年全球电池行业年度报告(518页)
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
国际科学理事会:2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告(英文版)(118页)
光子盒:2025全球量子计算产业发展展望报告(184页)
奥纬论坛:2025塑造未来的城市研究报告:全球1500个城市的商业吸引力指数排名(124页)
FutureMatters:2024新兴技术与经济韧性:日本未来发展路径前瞻报告(17页)
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性:从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用:近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心:2024美国民众对气候变化及应对政策的态度调研报告:气候政策对美国经济影响的多元观点审视(28页)
空间计算行业深度:发展趋势、关键技术、行业应用及相关公司深度梳理-250224(33页)
Gartner:2025网络安全中的AI:明确战略方向研究报告(16页)
北京大学:2025年DeepSeek系列报告-提示词工程和落地场景(86页)
北京大学:2025年DeepSeek系列报告-DeepSeek与AIGC应用(99页)
CIC工信安全:2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告(42页)
中科闻歌:2025年人工智能技术发展与应用探索报告(61页)
AGI智能时代:2025年Grok-3大模型:技术突破与未来展望报告(28页)
上下滑动查看更多


文章作者: ZejunCao
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 ZejunCao !
  目录