【人工智能】8 位专家探讨人工智能在医疗保健领域的应用
在 Healthcare Dive 虚拟活动上发言的行业专家表示，医疗保健组织必须仔细审查人工智能工具、解决患者担忧并关注标准和法规。
医疗保健机构在采用人工智能工具方面面临诸多障碍。提供商必须解决患者的担忧，而付款人和其他生命科学公司则 在如何平衡效率承诺与偏见等道德问题上苦苦挣扎。
他们这样做都是因为承诺人工智能将实现机械任务的自动化、减少医疗支出和浪费、让临床医生有更多时间照顾患者并改变医疗保健行业。
然而，专家在11 月 19 日 由 Healthcare Dive 主办的小组讨论 会上表示，在生成式人工智能通过 ChatGPT 受到公众欢迎两年多之后，医疗保健领域仍在追赶如何监管、测试和实施这些工具的步伐。
以下是八位医疗保健专家就组织在实施人工智能时应考虑的事项以及如何制定标准和法规提出的建议。
供应商如何审查人工智能工具
在决定是否集成 AI 工具时，提供商应采取的第一步是评估将使用该工具的临床环境。梅奥诊所平台医疗总监 Sonya Makhni 表示，并非每种工具都适合诊所中的每项任务。
“一种人工智能算法可能非常适合我的临床环境，但可能不适合其他环境，反之亦然，”马赫尼 说。“医疗系统需要了解……要寻找什么，他们需要了解患者群体，这样他们才能自己做出明智的决定。”
她补充说，尽管提供商必须评估人工智能工具，但由于算法和模型难以理解，他们在分析这些工具时面临着巨大的障碍。
“我们的劳动力已经很紧张了，”马赫尼 说。“我们真的不能指望每个人都去获得数据科学或人工智能硕士学位，才能解释解决方案。”
为了解决这一问题，服务提供商在评估人工智能工具时应该向公共和私人联盟（如非营利性 健康人工智能联盟 ）寻求指导原则。
“我们已经学到了很多关于解决方案应该遵循哪些原则的知识，”马赫尼说。“所以，安全性、公平性、实用性、透明度、可解释性、隐私性，你知道，当我们审视人工智能解决方案时，我们应该用这些东西作为视角。”
解决患者顾虑
一旦提供商决定整合人工智能工具，他们就会面临另一个潜在的绊脚石：他们的患者。
随着人工智能工具越来越受欢迎，患者对医生办公室使用的技术表示了保留意见。去年，60% 接受调查的美国成年人告诉皮尤研究中心， 如果他们的医疗服务提供者依赖人工智能 进行医疗护理，他们会感到不舒服。
为了让患者更舒服，普罗维登斯医疗系统首席医疗信息官莫林·沙阿表示，临床医生应该 强调，目前人工智能只起到纯粹的支持作用。
沙阿说：“从很多方面来说，人工智能实际上是一种为 医生提供决策支持的更好方式，这样他们就不会错过任何细节，或者可以提出建议。”
尽管人工智能工具才刚刚开始受到大众的欢迎，但患者可能会因为知道人工智能在医疗领域早已存在而感到更加安心。
大西洋健康系统首席医疗信息官 Aarti Ravikumar 指出，人工胰腺或闭环混合胰岛素泵等变革工具已成为胰岛素依赖患者的“游戏规则改变者”。
“所有这些工作都是使用人工智能算法完成的，” 拉维库马尔说。“所以我们的医疗设备或电子病历中嵌入了人工智能工具，而且这种做法已经持续了很长时间。”
“这些工具都不会让临床医生脱离这种互动或医疗决策，”拉维库马尔说。“如果我们到了自动化决策并将临床医生从决策过程中移除的阶段，我认为我们肯定必须做出更多解释。”
解决错误和偏见
每个组织在集成 AI 模型时都必须解决小问题。但在医疗保健领域，风险更高，因为偏见和幻觉，或者 AI 工具产生虚假或误导性信息，都可能导致患者护理中断。
医疗服务提供者并不是唯一一个面临偏见的医疗机构。 付款人因使用人工智能工具拒绝提供医疗服务而遭到强烈反对 ，科技公司也被指责 开发了加剧现有医疗差距的工具 。
谷歌云医疗保健全球总监 Aashima Gupta 表示，对于生成式人工智能公司来说，让人类参与其 中至关重要，包括来自专家、护士或临床医生等用户的反馈。
古普塔说：“对我来说，这种反馈输入将使人工智能在特定用例中更加有效。”
人工智能公司还应该彻底测试他们的模型。在谷歌，专门的团队试图通过诡计来破解人工智能工具，比如试图提示问题的错误答案。她补充说，稳健的开发和让人类参与其中与控制错误“齐头并进”。
然而，咨询公司麦肯锡的合伙人 杰西·兰姆表示，虽然组织应该对错误和偏见保持谨慎，但人工智能工具可能代表着尝试减轻医疗保健偏见的机会。
“在引入人工智能之前，医疗保健系统中存在大量偏见，对吧？所以我们必须记住，我们并不是从一个完美的地方开始的，”兰姆说。“我们实际上可以使用人工智能，并使用一些有意识的监控来实际改善我们在医疗保健偏见方面所处的一些现状，我认为这实际上是一个巨大的机会。”
她补充道：“谈到使用人工智能时，我们总是谈论偏见带来的下行风险，但实际上我认为这也有很大的好处，可以减轻我们在系统中看到的一些现有偏见。”
制定医疗保健人工智能的法规和标准
当医疗保健组织正在决定是否实施人工智
能时，联邦政府和私人财团正在努力解决如何对其进行监管。
尽管联邦政府在尝试规范这些工具方面取得了逐步进展，包括通过 制定规则 ，但该行业的标准仍处于早期阶段。
美国卫生与公众服务部技术政策助理部长兼代理首席人工智能官米基·特里帕蒂 (Micky Tripathi) 表示，与两年前人工智能成为主流时相比，人工智能的采用速度很快，这加大了政府制定监管法规的压力。
特里帕蒂表示，展望未来，政府和私营企业之间的合作至关重要。
他说：“这里将会有一个成熟过程，我认为这个过程将是一个公开且私密的事情。”
Tripathi 还想知道，什么时候法规才能迫使私营企业采用自己的工具标准和认证。在该行业的另一个领域，政府 为电子健康记录公司提供申请自愿认证的标准 。
“例如，什么因素会促使普罗维登斯医疗集团等机构感到有必要使用或获得某种认证或某种批准……来自提供某些 AI 模型验证服务的组织？”他说。“目前，对于开发这些解决方案的开发人员或实施这些解决方案的提供商组织来说，这仅仅是一笔纯粹的成本。”
普罗维登斯首席战略和数字官 Sara Vaezy 表示，虽然联盟可以为人工智能提供高级框架，但组织也需要开放标准来帮助从基层解决临床人工智能用例。
Vaezy 说：“我们需要类似于在互操作性方面取得的所有进展的开放标准。”
“如今的挑战是，联盟与我们的工作进展相差甚远，我们需要迅速缩小差距。我认为我们可以做到这一点的方法之一是通过创建开放标准，”她补充道。
咨询公司 Virtue 创始人兼首席执行官 Reid Blackman 表示，培训提供商需要与制定标准同时进行。它还可以帮助填补与人工智能相关的法规或治理方面的空白。
“你可以做很多工作来教育普通医生、护士等，让他们了解这些风险是什么，”他补充道。
布莱克曼说：“培训是必不可少的一部分，我不想说是护栏，但它是确保事情不会出错的重要组成部分。”
免责声明：
本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。
关注我们，一起探索AWM！
2024-12-03
2024-11-17
2024-11-16
相关知识
人工智能在医疗健康领域中的应用
人工智能在医疗健康领域的应用及挑战
人工智能大模型在医疗健康领域的深度应用
人工智能在老年医疗中的应用探索.pptx
人工智能在远程医疗中的应用：智能化的远程健康监护
守护人类健康：人工智能赋能医疗领域创新应用
医疗领域的十大人工智能应用场景：重塑医疗健康的未来
那些应用于健康医疗领域的人工智能技术
医疗保健领域的人工智能: 使用案例和技术
人工智能在医疗健康领域的革新应用
网址: 【人工智能】8 位专家探讨人工智能在医疗保健领域的应用 https://m.trfsz.com/newsview810280.html
