首页 > 资讯 > AI时代的医疗事故

AI时代的医疗事故

泰然健康网
2025-06-11 04:19

Malpractice in the Age of AI

美国英语科技与健康

新闻源：Medscape

2024-12-10 17:00:00阅读时长5分钟2431字

AI医疗事故医疗保健电子健康记录准确性隐私医疗事故保险医生诊断生成式AI

内容摘要

本文探讨了医生在使用人工智能技术时面临的医疗事故风险，分析了当前法律环境和保险政策对AI使用的保护措施，并提供了医生如何保护自己的建议。

儿科医生在患者就诊时不再坐在笔记本电脑后面，而是直接面对患者和家长，依赖于一种环境人工智能（AI）记录员来捕捉对话并记录到电子健康记录（EHR）中。老年医学专家在养老院查房时，将每位患者的药物输入AI工具，检查药物相互作用。繁忙的医院放射科将所有紧急头部CT扫描通过AI算法处理，优先分诊潜在的中风患者，确保他们获得最高优先级。这些医生尚未因使用AI而被起诉医疗事故，但他们担心自己是否有风险。

根据最近的一份《Medscape》报告《医疗保健中的AI采用》，224名医生对以下陈述作出回应：“我想更多地使用AI，但担心如果行动过快会面临医疗事故风险。”17%的人强烈同意，23%的人同意——即40%的人出于法律原因对使用这项技术表示担忧。医疗事故和AI是许多医疗保健专业人士关注的问题，尤其是在大型医疗系统中。The Doctors Company的首席运营官Deepika Srivastava告诉《Medscape Medical News》：“AI是讨论的焦点，大型医疗系统正在提出问题。大型系统希望保护自己。”目前还没有因临床使用AI而引发的法律诉讼。“我们还没有看到任何AI相关的诉讼，”Srivastava说，“但风险正在增加，这就是为什么我们在讨论这个问题。法律体系需要适应AI在医疗保健中的角色。”

医生如何使用AI

医疗保健行业基于所需工具和功能的不同，以多种方式融入AI。狭窄AI在放射学等领域的应用非常广泛，可以比较两个大数据集以发现差异。狭窄AI可以帮助区分正常组织和异常组织，例如乳腺或肺部肿瘤。截至2024年7月，已有近900种AI医疗工具获得了美国食品药品监督管理局（FDA）的批准，其识别异常和模式的能力优于许多人类。《ChatGPT, MD: How AI-Empowered Patients & Doctors Can Take Back Control of American Medicine》的作者、前Permanente Medical Group首席执行官Robert Pearl博士说。

狭窄AI还可以提高其他专科的诊断速度和准确性，包括皮肤科和眼科。Pearl说：“对于初级保健、神经学和精神病学等涉及大量文字的医学领域，AI的好处尚不明确。”在这些专科中，一些医生可能会将生成式AI用作资源库。在临床实践中，环境AI还用于根据患者/医生的对话创建健康记录。在临床管理中，AI用于调度、计费和提交保险索赔。在保险公司方面，基于AI算法拒绝索赔已成为法律诉讼的核心，最近也引起了媒体的关注。

使用AI时的医疗事故风险

准确性和隐私应成为使用AI时医疗事故关注的首要问题。就准确性而言，责任可能部分取决于使用类型。如果诊断应用程序做出错误诊断，“公司因其创建和测试该应用程序而负有法律责任，”Pearl说。然而，在使用AI诊断工具时，保留人为干预是一个明智的选择。医生应选择AI建议的诊断或不同的诊断。如果诊断错误，“很难确定错误的来源。是医生？还是工具？”Srivastava补充道。

生成式AI的错误诊断责任更为明显。“你承担了这种责任，”Pearl说。生成式AI在黑箱中运行，基于存储在数据库中的信息预测正确答案。“生成式AI试图在已知信息和预测下一个输出之间建立关联，”德克萨斯州奥斯汀市法律事务所Promise Legal PLLC的管理合伙人Alex Shahrestani说。他是德克萨斯州律师协会AI和法律工作组成员，并参与了与AI政策相关的国家标准化技术研究所的咨询小组。“医生应该知道验证AI提供的信息，”他建议医生运用自己的医学培训和判断。

生成式AI可以提供思路。Pearl分享了一个故事：一位外科医生在手术结束时无法移除卡在患者喉咙中的呼吸管。他在手术室里查询了ChatGPT，找到了一个类似病例。麻醉剂中的肾上腺素限制了血管，导致声带粘连。根据AI提供的信息，外科医生允许更多时间让麻醉剂扩散。随着麻醉效果消退，声带分开，呼吸管得以顺利取出。“这就是它能提供的专业知识，”Pearl说。

隐私是AI的一个常见问题，但它可能比实际情况更令人担忧。“许多人认为，如果你与AI系统交谈，就是在向模型提供个人数据，”Shahrestani说。平台提供了退出选项，即使不选择退出，模型也不会自动吸收你的互动。“这不是隐私功能，”他说，“而是开发者担心这些信息可能无助于模型。”“如果你使用这些退出机制，并确保足够的保密性，你可以使用ChatGPT而不必过于担心患者信息泄露，”Shahrestani说。或者使用要求更严格、将所有数据保留在本地的系统。

医疗事故保险政策和AI

目前，医疗事故保险政策并未明确规定AI覆盖范围。“我们目前不要求列出你使用的所有技术，”Srivastava说。许多电子健康记录系统已经纳入AI。如果有人类提供者介入，已经经过审查并投保，“当医生使用AI时，我们应对医疗事故风险的保险仍然有效，”她说。

不过，保险公司正在密切关注这一领域。“传统的医疗事故法确实需要重新评估，因为AI的快速发展已经超过了将其整合到法律体系中的努力，”Srivastava说。包括Pearl在内的一些人认为，AI实际上会降低医疗事故风险。更多的数据点可以加快医生的工作，使其更简单、更准确。“我相信这项技术将减少诉讼，而不是增加诉讼，”Pearl说。

那么，医生如何保护自己免受AI医疗事故诉讼？

了解你的工具：提供者应了解他们部署的工具，它提供了什么，如何构建和训练（包括潜在偏见），如何测试，以及如何使用或不使用该工具，Srivastava说。每个工具、用例和风险都应单独评估。“不要一概而论，”她说。

对于生成式AI，用户在请求已存在较长时间且广泛访问的信息时会取得更好的效果。“它更有可能正确返回，”Shahrestani说。如果寻求的信息较新或不普遍，工具可能会得出有问题的结论。

记录：Srivastava说：“记录，记录，再记录。确保你有良好的记录，这真的可以在诉讼发生时帮助你，尤其是与AI工具相关的情况。”

尝试使用：Shahrestani说：“我建议你多使用[生成式AI]，这样你就能了解它的优势和不足。”“如果你等到事情尘埃落定，你会落后。”Pearl建议：“假装你是患者，给工具提供你通常会给医生的信息，看看结果。”“没有人会因为你去图书馆查阅教科书而起诉你，”他说，“使用生成式AI与此类似。先尝试免费版本；如果你开始更多地依赖它，付费版本具有更好的功能且价格低廉。”

(全文结束)