随着有指导的人工智能(AI)越来越多地用于疾病的诊断和治疗等关键应用，将需要更可靠的深度学习模型来进行医疗护理预测和获得从业者和患者可以信任的结果。随着人工智能(AI)在疾病诊断和治疗等关键应用中的使用越来越多，从业者和患者可以信任的医疗保健预测和结果将需要更可靠的深度学习模型。
在最近的预印本(可通过康奈尔大学开放存取网站arXiv获得)中，劳伦斯利弗莫尔国家实验室(LLNL)计算机科学家领导的团队提出了一种新颖的深度学习方法，旨在提高分类器模型的可靠性。该模型旨在从诊断中预测疾病类型图像，其附加目标是在不牺牲准确性的情况下使它们能够被医学专家解释。这种方法使用了一种称为置信度校准的概念，可以系统地调整模型的预测，以满足人类专家在现实世界中的预期。
首席作者、LLNL计算科学家杰伊蒂亚加拉詹(Jay Thiagarajan)解释说：“可靠性是一个重要的标准，因为AI在高风险应用中越来越普遍，当出现问题时，它会带来真正的不良后果。”“你需要系统地解释这个模型在实际环境中的可靠性，然后应用到其中。如果像改变人口多样性这样简单的事情会摧毁你的系统，你需要知道这一点，而不是部署它，然后找出答案。”
在实践中，量化机器学习模型的可靠性具有挑战性，因此研究人员引入了“可靠性图”，在推理循环中包含专家，以揭示模型自治性和准确性之间的权衡。Thiagarajan解释说，通过允许模型在置信度较低时推迟预测，可以从整体上评估模型的可靠性。
在这篇论文中，研究人员考虑了用于皮肤癌筛查的病变皮肤镜图像——每张图像都与特定的疾病状态相关：黑色素瘤、黑色素细胞痣、基底细胞癌、光化性角化病、良性角化病、皮肤纤维瘤和血管病变。使用常规指标和可靠性图表，研究人员表明，与现有的深度学习解决方案相比，校准驱动的学习可以产生更准确、更可靠的检测器。在这个具有挑战性的基准测试中，他们达到了80%的准确率，而标准神经网络的准确率为74%。
然而，比提高准确性更重要的是，预测校准提供了一种全新的方法来建立科学问题中的可解释工具，Thiagarajan说。该团队开发了一种内省方法，用户输入一个关于患者的假设(如某种疾病的发作)，模型返回与假设最一致的反事实证据。使用这种“假设分析”，他们可以识别不同类型数据之间的复杂关系，并揭示模型的优点和缺点。
蒂亚詹说，“我们正在探索如何制造一种可能支持更复杂推理或推理的工具。”“这些人工智能模型通过将你的假设置于预测空间，系统地提供了一种获得新见解的方法。问题是，‘如果诊断出患有甲、乙两种疾病的人，图像将如何显示？我们的方法可以为这一假设提供最合理或最有意义的证据。我们甚至可以让病人不断地从状态A过渡到状态B，专家或医生可以定义这些状态是什么。"
标签：
免责声明：本文由用户上传，如有侵权请联系删除！