您的医疗设备正变得更智能美国食品药品监督管理局能否保障其安全性？——《华尔街日报》

人工智能在医疗设备中的应用正呈爆炸式增长，为潜在的救生技术进步铺平了道路，同时也给负责保障新产品安全的监管机构带来了严峻挑战。

如果科技公司如愿以偿，焦虑的患者或许有一天会选择与聊天机器人而非人类治疗师交谈。患者入院时将接受人工智能驱动的风险评估计算器评估，自动化助手将协助完成检测。这类用于诊断或治疗的人工智能应用程序，将属于美国食品药品监督管理局（FDA）监管范围内的医疗设备——这意味着开发商可能需要获得该机构批准才能上市销售。

随着人工智能革命加速推进，FDA正与众多美国监管机构共同艰难探索合适的政策框架。2020年至2022年末期间，FDA批准了300多款具备人工智能功能的医疗设备，数量超过此前十年总和。“我们正面临隧道中疾驰而来的列车，即将遭遇重大挑战，“2019至2021年担任FDA食品与药品首席副局长的艾米·阿伯内西表示，她现任Alphabet旗下制造人工智能医疗设备的Verily生命科学公司首席医疗官。

数十年来，该机构审查医疗设备的方式与审查药物相同：视其为静态化合物。FDA批准某款设备后，制造商只能销售该版本。升级新版本需重新获得监管批准。但人工智能设备通常采用可快速更新的算法，甚至具备自主学习能力。监管机构正努力在确保设备安全性的同时，应对这项快速发展的技术。

“人工智能产品的一个关键优势在于它能随时间不断优化，”炎症检测公司Inflammatix的首席执行官蒂姆·斯威尼表示。该公司开发的血液检测技术可预测感染的存在、类型及严重程度。他举例说，如果公司了解到某种特定的免疫反应模式强烈预示着败血症发作，就会希望重新训练算法以纳入这一特征。“当获得大量新增数据时，理应提升检测结果的准确性。”斯威尼强调。

然而根据美国食品药品监督管理局的传统监管方式，像Inflammatix这样的企业在修改算法前很可能需要额外申请许可。

该机构正引导开发者转向新路径，于四月发布了关于人工智能医疗设备如何提交弹性改进方案的正式指南。制造商可提交列明预期调整的"预定义变更控制计划”，由FDA的法律、医学和技术专家团队评估修改范围。一旦设备获批，企业无需再经FDA审批即可实施计划内的算法更新。

FDA数字健康卓越中心主任特洛伊·塔兹巴兹解释：“此举旨在确保市场在坚守产品审批时设定安全边界的同时，保有推动技术前沿的创新灵活性。”

尽管众多设备制造商对此表示欢迎，但他们希望FDA能进一步明确允许的修改范围。克利夫兰医学中心首席研究信息官拉拉·杰希坦言：“预先确定所有可能的改进方向具有挑战性。科学领域唯一可预测的就是其不可预测性。“她曾参与开发人工智能患者评估工具。

NeuroPace是一家生产治疗严重癫痫脑植入设备的公司，其首席医疗官玛莎·莫雷尔表示，将考虑在新推出的AI版设备中纳入"变更控制计划”。

NeuroPace生产的治疗严重癫痫的脑部植入设备图片来源：Neuropace目前该设备通过释放电流来阻止癫痫发作，且电流强度需经医生审阅患者数据后手动调整。莫雷尔称，未来该设备或将获得实时解读患者脑电波并自主决定电流强度的权限，但需在预设安全阈值内运作。

这位自称"A型人格医生"的高管坦言，即便对她而言，将此类决策权交给设备也令人不安。但她坚信患者将因此受益，强调FDA与公司需共同制定确保设备安全性的标准。

针对FDA最新发布的AI医疗设备指南，她预言：“随着我们竭力应对这场巨大变革，后续指导文件将接踵而至。”

批评者认为FDA新政策可能带来风险，指出既往医疗设备软件失误曾危及患者生命。他们强调AI系统带来新挑战：监管者未必完全理解其运作机制，种族偏见等潜在问题亦难量化评估。佛罗里达州立大学卫生法教授梅森·马克斯指出：“AI带来全新伤害类型——那些难以理解和解释的算法伤害。“他认为FDA允许未经审查修改复杂算法，“实质是给予制造商过大自由裁量权。”

美国食品药品监督管理局(FDA)的一位发言人表示，该机构对医疗设备的评估会考虑潜在的偏见问题。

未来，这些担忧可能会通过FDA一些官员讨论过的新政策得到解决：要求人工智能设备上市后进行实时监测。这将不同于传统做法，即FDA批准的设备制造商只需报告可能影响患者的"不良事件”。新的监测要求旨在确保制造商密切跟踪其算法的表现。但实施这些要求可能需要FDA目前不具备的法律授权。如果行业团体认为这些要求过于严苛，可能会游说反对FDA获得此类权力。

随着更多开发者整合能生成类人文本、照片、视频和其他媒体的生成式AI系统，这些争论只会变得更加紧迫。

Woebot Health提供了一款聊天机器人，希望精神科医生、医师或保险公司能推荐给患者用于改善心理健康问题。该机器人全天候给予鼓励和回应。Woebot表示，作为安全措施，其回复仅限于人工预先审核的内容范围。该公司正在测试使用生成式AI模型来理解用户表达，但对开放对话持谨慎态度。

Woebot成人版被宣传为帮助人们更好地应对焦虑和抑郁症状的工具。图片来源：WoebotWoebot将其聊天机器人定位为心理健康支持应用，刻意规避使用“治疗”等可能引发FDA审查需求的术语。该机构拥有监管权限，可规范任何用于疾病诊断、治疗或预防的器械——这一广泛职权适用于众多医疗软件功能。对于其视为低风险的情况（如健康类应用），FDA并不强制执行相关规定。

Woebot表示希望获得FDA批准认证，但同时也谋求无需处方即可销售产品，以触达更广泛的用户群体。目前FDA批准的心理健康“数字疗法”通常不允许直接面向消费者销售。“如何确保这些工具经过临床验证[但]不一定需要处方？”Woebot监管科学与战略副总裁Robbert Zusterzeel提出，“FDA未来需要审视这种中间选项。”

这揭示了FDA政策的另一潜在影响：监管边界最终塑造了产品开发方向。

“这形成了耐人寻味的激励机制。”研究FDA监管的哈佛商学院教授Ariel Dora Stern指出，“我接触过一些初创公司，他们实际开发的解决方案远未达到其算法能力上限，纯粹因为对监管避之唯恐不及。”

写信给瑞安·特雷西，邮箱：[email protected]

刊登于2023年10月12日印刷版，标题为《医疗设备变得更智能。FDA能跟上吗？》。