【编者按】人工智能正以前所未有的速度渗透医疗领域，从辅助诊断到手术导航，AI被寄予革新医疗的厚望。然而，在科技巨头与医疗企业竞相推出AI医疗产品的热潮中，安全隐忧悄然浮现。本文通过深入调查FDA数据、法律记录及患者案例，揭示多起AI医疗设备事故背后的争议与风险。当手术导航系统误判器械位置导致患者中风，当心脏监护仪漏报异常心律，我们不得不追问：在追求技术飞跃的同时，是否忽视了最基本的患者安全？监管体系又能否跟上AI医疗的狂奔步伐？以下报道将带您直面AI医疗的“暗面”，思考技术进步与生命安全的平衡之道。

　　2021年，医疗巨头强生旗下公司曾宣布一项“飞跃式进展”：他们将人工智能整合进用于治疗慢性鼻窦炎的医疗设备中。Acclarent公司表示，其TruDi导航系统的软件将通过机器学习算法，辅助耳鼻喉专科医生进行手术。

　　该设备此前已上市约三年。截至当时，美国食品药品监督管理局（FDA）收到过7起设备故障的未确认报告，以及另一起患者受伤报告。而自加入AI功能后，FDA已收到至少100起故障和不良事件的未确认报告。

　　根据报告，2021年底至2025年11月期间，至少有10人受伤。多数指控涉及TruDi导航系统在手术中向医生错误报告器械在患者头内的位置。

　　据报道，一名患者的脑脊液从鼻腔漏出。另一份报告称，医生误穿了患者颅底。还有两起案例中，患者均在主要动脉意外受损后罹患中风。

　　FDA设备报告可能不完整，且并非用于判定医疗事故原因，因此AI在这些事件中具体扮演何种角色尚不明确。两名中风受害者均在德克萨斯州提起诉讼，指控TruDi系统的AI导致了他们的伤害。其中一起诉讼称：“可以说，在软件修改引入人工智能之前，该产品比修改后更安全。”

　　路透社无法独立核实诉讼中的指控。

　　当被问及FDA关于TruDi设备的报告时，强生将问题转给了Integra LifeSciences公司——该公司于2024年收购了Acclarent及TruDi导航系统。Integra LifeSciences表示，这些报告“仅能说明TruDi系统在发生不良事件的手术中被使用过”，并补充称“没有可信证据表明TruDi导航系统、AI技术与任何指控的伤害存在因果关系”。

　　这些事件的曝光正值AI开始变革医疗界之际。支持者预测新技术将助力攻克罕见病、研发新药、提升外科医生技能并赋能患者。但路透社对安全法律记录的审查，以及对医生、护士、科学家和监管者的采访显示，在设备制造商、科技巨头和软件开发商竞相推出AI医疗产品时，医学领域的AI技术已显现诸多隐患。

　　目前FDA已批准至少1357款使用AI的医疗设备——是2022年前批准数量的两倍。TruDi系统并非唯一受质疑的产品：FDA已收到涉及数十款其他AI增强设备的报告，包括一款据称漏检异常心跳的心律监护仪，以及一款被指控错误识别胎儿身体部位的超声设备。

　　根据约翰斯·霍普金斯大学、乔治城大学和耶鲁大学的研究人员8月在《JAMA健康论坛》发表的研究信，他们发现60款FDA批准的AI医疗设备与182次产品召回相关。审查显示，43%的召回发生在设备获批后不到一年内。研究指出，这约为所有在类似FDA规则下获批设备的召回率的两倍。

　　五位现任及前任FDA科学家告诉路透社，AI热潮给FDA带来了难题：在关键人员流失后，该机构难以跟上寻求批准的AI增强医疗设备的激增速度。包含FDA在内的美国卫生与公众服务部发言人表示，正寻求提升该领域的能力。

　　另一种人工智能形式——生成式AI聊天机器人——也正在进入医学领域。许多医生现使用AI节省时间，例如转录患者病历。但医生也表示，许多患者使用聊天机器人自我诊断或质疑专业建议，带来了新的挑战与风险。（参见相关报道）

　　大约三年前ChatGPT推出后，人工智能引发了商业和社会热潮。ChatGPT及其他流行聊天机器人（如谷歌的Gemini和Anthropic的Claude）使用所谓的生成式AI来创建内容。它们建立在大型语言模型之上，这些模型通过海量文本和其他数据训练，以理解和生成人类语言。这些AI工具正被引入消费者健康应用等医疗领域。

　　然而，AI不仅限于LLM，该技术在AI机器人出现之前早已进入医学领域。这一领域可追溯至70多年前：一个关键里程碑是英国数学家艾伦·图灵在1950年的论文中提出“机器能思考吗？”

　　FDA于1995年批准了首批AI增强医疗设备——两款使用模式匹配软件筛查宫颈癌的系统。当今医疗设备中使用的AI类型常被称为机器学习，以及其子集深度学习，它们通过数据训练来执行特定任务。例如，该技术用于放射学以增强和分析医学图像，可通过识别医生可能遗漏的肿瘤来帮助诊断癌症。

　　此类系统也用于手术设备。2022年6月，一名外科医生在德克萨斯州沃思堡的一家医院将一个小球囊插入Erin Ralph的鼻窦腔。根据Ralph提起的诉讼，Marc Dean医生当时使用搭载AI的TruDi导航系统来确认器械在她头内的位置。

　　该手术称为鼻窦球囊扩张术，是一种治疗慢性鼻窦炎的微创技术。通过膨胀球囊来扩大鼻窦腔开口，以改善引流并减轻炎症。

　　但根据Ralph在达拉斯县地方法院对Acclarent及其他被告提起的诉讼，TruDi系统“误导并错误指引了”Dean医生。据称，一条向大脑、面部和颈部供血的颈动脉受损，导致血栓形成。根据法庭文件，Ralph的律师告诉法官，Dean自己的记录显示他“完全不知道自己在颈动脉附近”。路透社未能查阅这些受司法保护令约束的记录。

　　Ralph离开医院后，明显出现了中风症状。据为支持其康复发起的GoFundMe募捐活动称，这位四个孩子的母亲返回医院，在重症监护室度过了五天。GoFundMe页面写道，她的一部分颅骨被移除，“以便为大脑肿胀留出空间”。

　　“我仍在接受治疗，”Ralph在一年多后一次关于中风患者的博客采访中说，“不用支架很难行走，左臂功能也尚未恢复。”

　　2023年5月，Dean医生在另一台鼻窦球囊扩张术中使用TruDi时，患者Donna Fernihough的颈动脉据称“爆裂”。根据Fernihough在沃思堡美国地方法院对Acclarent及多家制造商提起的诉讼，血液“喷溅得到处都是”——甚至溅到了一名观摩手术的Acclarent代表身上。Fernihough的一条颈动脉受损。根据诉讼，她在手术当天中风。

　　诉讼指控Acclarent“知道或应当知道，所谓的人工智能导致或加剧了集成导航系统产品不一致、不准确和不可靠的倾向”。

　　根据法庭文件，Acclarent已否认两起诉讼中的指控，案件仍在审理中。该公司称其并未设计或制造TruDi系统，仅负责分销。Acclarent的所有者Integra LifeSciences告诉路透社，没有证据表明AI技术与任何指控的伤害有关联。根据追踪企业与医生财务联系的联邦数据库Open Payments，Dean自2014年开始为Acclarent提供咨询，截至2024年累计获得超过55万美元咨询费，其中至少13.5万美元与TruDi系统相关。

　　Dean律师称，因患者隐私和诉讼进行中，医生无法置评。Integra表示Dean已不再是TruDi顾问，收购Acclarent后支付给他的费用均为餐费。

　　Fernihough的诉讼指控，2021年时任Acclarent总裁的Jeff Hopkins力推将AI加入TruDi，“作为一种营销工具”，以宣称该设备“拥有新颖技术”。

　　根据Acclarent在linkedIn上的帖子，TruDi软件使用机器学习识别患者解剖结构的特定部位，并计算“医生指定的两点间最短有效路径”。该技术旨在简化手术规划，并在鼻窦手术等过程中提供实时反馈。

　　Fernihough的诉讼称，Acclarent官员曾就加入AI的计划征询Dean意见。诉状补充说，这位外科医生警告Hopkins和Acclarent“有些问题需要解决”。诉讼指控，尽管有此警告，Acclarent仍“降低安全标准以仓促推出新技术”，并设定“目标仅为部分新技术的80%准确率，随后便将其整合进TruDi导航系统”。

　　路透社无法确认Dean是否发出过警告。记者未能查阅支持Fernihough主张的材料，这些材料受司法保护令约束。

　　前Acclarent总裁Hopkins未回应置评请求。

　　FDA提醒，不良事件和设备故障报告存在局限：它们常缺乏细节，为保护商业秘密而进行编辑，且不能单独用于归责。该机构有时还会收到同一事件的多份报告。

　　路透社发现，2021年至2025年10月间提交给FDA的报告中，至少有1401份涉及FDA列出的1357款使用AI的产品清单中的设备。FDA称该清单并不全面。这些报告中，至少有115份提到软件、算法或编程问题。

　　2025年6月的一份FDA报告指控，用于产前超声的AI软件错误识别胎儿身体部位。该软件名为Sonio Detect，采用机器学习技术辅助分析胎儿图像。

　　报告称：“Sonio Detect软件AI算法存在缺陷，错误标记胎儿结构并将其与错误的身体部位关联。”报告未提及任何患者受伤。Sonio Detect由三星电子旗下子公司三星Medison所有。三星Medison表示，FDA关于Sonio Detect的报告“未显示任何安全问题，FDA也未要求Sonio采取任何行动”。

　　HHS发言人未回应关于Sonio Detect的提问。

　　至少16份报告声称，医疗设备巨头美敦力生产的AI辅助心脏监护仪未能识别异常心律或停搏。所有报告均未提及伤害。美敦力告知FDA，部分事件由“用户混淆”导致。美敦力LINQ系列植入式心脏监护仪的AI算法被描述为“深度学习人工智能”。公司网站称，它们大幅减少了错误警报，并保留了真实的心脏事件警报。但公司也在网站和产品资料中说明，其AI技术AccuRhythm AI可能错误分类实际的异常心律或停搏。

　　美敦力告诉路透社，其审查了全部16起事件，结论是设备仅漏检一次异常心律事件。“这些报告均未导致患者伤害。”美敦力称部分事件与数据显示问题有关，而非AI技术。该公司拒绝详细解释每起事件的具体问题。

　　HHS发言人表示，该机构不讨论可能或正在进行的合规事宜。

　　五位现任及前任FDA科学家在采访中告诉路透社，联邦监管机构当前处理激增的新AI设备的能力已减弱。

　　约四年前，FDA扩充了AI专业科学家团队，特别是审查使用该技术的医学影像和放射学设备。许多新成员被分配至影像、诊断和软件可靠性部门。一位现任和两位前任FDA员工告诉路透社，该部门成为评估医疗AI安全性的关键资源，去年初增至约40人。

　　“一些高级监管者完全不懂这些技术原理，”一名前员工说，“我们与高级监管者密切沟通，向他们解释为何我们认为这项技术上市是否安全。”

　　吸引顶尖人才加入政府机构并非易事。招募计算机科学家常需说服他们放弃私营部门更高的薪酬。

　　一名前员工称，科学家在工作中试图“破解”设备的AI模型。他们会在各种临床情境下测试设备算法，检查AI性能是否随时间退化。FDA官员在10月发表的论文中写道，他们还致力于减少“幻觉”——即AI模型有时生成虚假信息。

　　但去年初，特朗普政府作为埃隆·马斯克成本削减运动的一部分，开始解散AI团队。FDA内部人士称，DIDSR部门约40名AI科学家中，约15人被裁或选择离职。另一个制定AI设备政策的部门——数字健康卓越中心，其约30名员工中约三分之一流失。

　　HHS发言人Andrew Nixon表示，FDA对机器学习及其他AI辅助的医疗设备适用与任何产品相同的严格标准。

　　“患者安全是FDA的最高优先事项，是我们保护和促进公众健康工作的核心，”Nixon说，“FDA看到数字健康领域的巨大潜力”，包括AI和机器学习赋能的设备，“有助于诊断和治疗多种疾病”。他表示FDA持续招募和培养数字健康、人工智能及其他新兴技术领域的专业人才。

　　两名前员工称，裁员后，部分设备审查员的工作量几乎翻倍。“如果资源不足，疏漏更易发生，”一位去年离职的前设备审查员表示。

　　FDA要求新药进行临床试验，但医疗设备面临不同的审查流程。根据FDA规定，大多数上市的AI设备无需在患者身上测试。华盛顿大学医学院讲师、医疗设备监管专家Alexander Everhart博士指出，制造商通过引用先前已获批、无AI功能的设备来满足FDA要求。

　　将新设备定位为现有设备的升级是长期惯例，但Everhart认为AI给现状带来了新的不确定性。

　　“我认为FDA监管医疗设备的传统方法不足以确保AI技术的安全有效，”Everhart告诉路透社，“我们依赖制造商做好产品上市工作。我不确定FDA现有的措施是否能构成有意义的护栏。”

　　Kaylee Kang补充报道，John Emerson负责设计与图表。