世界上第一个人工智能在医疗保健领域的影响评估工具

在医疗保健中使用人工智能已经看到了许多好处，从提高病理诊断的准确性到通过随着时间的推移“学习”某些图像来自动化放射学扫描。人工智能系统已经为临床医生节省了时间和资源，这些时间和资源可以重新用于其他任务，使医院能够节省资金，并从各种来源提供更大的数据集合，这些数据可能有助于研究工作和对许多疾病的分析。

然而，除了这些好处之外，还存在一些风险。机器“学习”的内容可能并不总是完全准确，并且通常需要临床医生的监控和输入。人们担心过度依赖或错误地相信人工智能系统的准确性指标，以及这些系统做出需要人类判断的决策。

可能对人工智能系统的有效性产生影响的其他因素包括人类主观性，例如偏见或种族主义态度，这些态度可以在人工智能系统中实施，从而加强压迫性系统。

更普通的因素也会扭曲人工智能在健康环境中的有效性。一项关于泰国使用的人工智能视网膜扫描工具开发的研究发现，人工智能工具的成功取决于各种社会环境因素，例如医院是否有稳定的互联网和良好的照明条件。

什么是 AIA 工具?

减轻这些风险的一种方法是在设计和开发人工智能系统之前进行 AIA。AIA 是一种用于在系统投入使用之前评估人工智能系统可能产生的社会影响的工具(尽管建议对系统进行持续监控)。

NHS 最近宣布，它将使用英国独立研究机构 Ada Lovelace Institute 开发的模型，对医疗保健领域的 AIA 进行世界首个试验，该机构是一家专门研究人工智能和数据的独立研究机构。希望访问 NHS AI 实验室的国家医学影像平台 (NMIP) 为其正在开发的任何 AI 系统保存的数据的公司将被要求进行 AIA。NMIP 收集来自 NHS 的医学影像数据，并提供给公司和研究小组以开发和测试 AI 模型。NMIP 数据访问委员会 (DAC) 被用作在整个 AIA 流程中让开发人员负责的论坛，并将最终决定谁能够访问 NMIP。

Lovelace AIA 如何运作?

Ada Lovelace Institute 的报告列出了其推荐的方法(报告)，一开始就承认 AIA 具有很强的特定背景，并且根据其目标和所使用的数据有不同的关注点，因此很难实现它们之间的统一。然而，报告指出，出发点是定义一套共同的目标，传达所有 AIA 的目的：

问责制：提议的 AIA 流程不仅通过外部决策者的参与，而且通过让临床医生、DAC 成员和普通公众等外部利益相关者参与来保持问责制。在此过程中，患者和临床医生有机会提供他们的具体专业知识和对决策的见解。报告指出，这将涉及传统上由卫生专业人员主导的卫生部门的思维方式和权力关系的重大转变：

“大多数 AIA 流程是由算法过程中的决策者控制和决定的，较少强调外部观点的咨询，包括那些受算法部署影响最大的人的经验。因此，AIA 有可能对潜在影响采取不完整或不连贯的观点，与这些生活经验脱节。”

免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。