仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
将ScienceAI设为星标
第一时间掌握
新鲜的AIforScience资讯
编辑丨%
心脏是人体重要器官，心电图（ECG）是现代医学中最重要的工具之一，用于检测各类心脏问题。在AI急速发展的当下，这种与生命健康强关联的系统也迎来了对应的升级。
虽然AI驱动的心电图分析可以实现高精度，但它通常像「黑匣子」一样工作，在不解释推理的情况下给出结果。故而，需要让医生理解AI下诊断的理由。
为了弥合这一差距，以色列理工学院（Technion-IIT）的研究人员正在努力使AI更具可解释性，能以符合医学知识的方式解释其结论。
论文链接：https ://www.nature.com/articles/s41746-025-01467-8
建立和AI的医学信任
在美国，2020年急诊室的1.31亿次病例中，有超过3200万次心电图检查，10亿次的社区健康检查中，这个数字来到了4700万。在这种社会环境下，即使该团队和其他人已经开发了从ECG中检测心脏条件的算法，但这个算法还是面临着让医生理解不易的困境。
为了增强直观性，这类系统应该向医生提供心脏病模型分类的解释，这就需要使用输入数据中对最终诊断影响最大的ECG特征形式。
理想情况下，这些特征应与现有文献中记录的、医生在临床实践中使用的已确定心脏病特征相关联。但目前关于心脏病的生物标志物尚缺乏共识。
图1：工作中的实验示意图。
为了建立在临床上可接受的解释方法，团队在之前发表的ECG-Adversarial网络上进行了测试，仅使用标签预测器。
ECG-Adversarial网络采用领域对抗训练方法，提取出在源域和目标域上表现良好的领域无关特征，这种方法增强了模型的稳健性和适应性，特别是在临床实践中处理图像方面。
而为了解决移动设备拍摄图像的质量问题，团队还扩展了网络架构，不仅包含标签预测器，还包含一个信号解码器，用于从12导联心电图图像中提取信号。这一处理可以从ECG中提取相关特征，减少复杂区域处的信息损失。
为了证明方法的通用性，ECG-AIO网络的编码器（特征提取器）网络被ResNet18代替。最终的结果代表了该模型在开发阶段成为一款集合型通用方法。
解释数据集的标注
方法需要投入使用，这也意味着需要更多的临床经验。
在这个部分中，该使用方法将会对未训练的NYU数据集上进行标注解释。可解释标记以紫色覆盖在原始图像上，并突出显示了对各种心脏状况诊断应用至关重要的临床相关特征。
图2：在高质量扫描的NYU数据集中训练和测试的神经网络。
这种细腻的方法确保了临床显著特征的清晰性和相关性，而不会在方法中强加不必要的突出部分，从而确保其在不同网络和ECG布局上的泛化能力。
可解释性机制强调了不规则节律、后续峰之间的长时间平坦期；检测并标记了一段与其他图像不一致的波形变化。这是该方法在实验室级别的图像判断中所表现的精准性。
图3：在添加了阴影的NYU数据集中训练和测试的神经网络。
前文中提到为了在图像干扰下继续完成任务，该系统添加了信号解码器，用以重建图像，迫使神经网络考虑图像的明亮和暗淡区域。
即使在饱和度很高的图像中，特定的心脏状况下临床相关的特征仍然可以被检测到。在这里，解释方法（雅可比矩阵）保持不变，仅网络得到了改进。
图4：在移动设备拍摄的NYU数据集中训练和测试。
在应用于拍摄图像时，对于标注的解释仍表现出一定程度的模糊。团队将此归因于增强方法未能模仿的伪影，以及格式和布局的变化。
为了解决问题，网络中加入了信号解码器和领域分类器，最终的架构被称为ECG-AIO（ECGall-in-one）。ECG-AIO经过了一种特殊的训练程序，称为领域对抗训练。
这种训练使用了带与不带叠加阴影和伪影的NYU图像，以及少量拍摄标记图像和大量未标记图像。经过这种训练后，未训练图像的可解释性性能显示出了增强的稳健性和清晰度，符合各类实际情况下的测试结果。
一套临床评估为好用的系统
为了评估临床性能，团队对「电生理学家实现的可解释性」与「算法实现的可解释性」进行了比较，重点关注两种心脏状况——房扑，这是一种心律失常性和形态学性状况；以及室性期前收缩。
算法结果与电生理专家给出的解释相关性分别在0.96±0.1与0.94±0.03。这些值表明方法在捕捉和解释与这些心脏状况相关的特征方面与专家解释有很强的一致性，体现了方法的可靠。
通过开发允许AI以符合医学专业知识的方式传达其发现的方法，研究人员正在帮助为心脏病学领域更智能、更可靠和更广泛接受的AI工具铺平道路。
随着这些进步，医生可能很快就会拥有人工智能助手，不仅可以检测心脏问题，还可以清楚地解释他们的原因，从而带来更好、更快、更智能的患者护理。
*图注：标注图片均来自论文内容。
人工智能×[生物神经科学数学物理化学材料]
「ScienceAI」关注人工智能与其他前沿技术及基础科学的交叉研究与融合发展。
欢迎关注标星，并点击右下角点赞和在看。
点击阅读原文，加入专业从业者社区，以获得更多交流合作机会及服务。
