美国医疗进入新阶段 犹他州开放AI直接评估患者并开具处方

摘要:

美国犹他州正在进一步扩大医疗人工智能的应用范围,并允许AI系统在特定条件下直接评估患者、决定治疗方案并开具处方。随着新的试点项目启动,犹他州正在成为美国医疗AI监管领域最激进的试验场之一。

此次新增的项目由医疗AI初创企业Nolla Health推出,主要针对轻度至中度痤疮患者。用户首先需要通过应用拍摄面部照片,并填写病史和个人信息,AI随后分析皮肤状况,对痤疮严重程度进行评估,再结合患者提供的医疗信息,从获准使用的药物清单中选择适合的治疗方案。

与传统远程医疗不同,这一流程的核心并不是让AI先完成筛查、然后再由医生进行最终诊断,而是允许AI最终作出是否开药的决定,并将处方直接发送给患者指定的药房。

不过,该项目并不是一开始就完全取消医生参与。在试点最初阶段,每一份AI生成的处方都需要由犹他州持证医生审核并签字。随着项目逐步推进,医生参与程度会逐渐降低,最终允许AI在无需医生事前审核的情况下自主开具符合条件的处方。

根据犹他州官方公布的试点协议,Nolla Health目前只能为成年患者处理轻度至中度痤疮,而且处方范围被严格限制在少量外用药物,包括指定的乳膏和凝胶。系统不能用于治疗严重痤疮,也不能开具口服药物或异维A酸等风险更高的治疗方案。

患者还必须经过身份和年龄验证,并且处方只能发送到犹他州地址。对于严重痤疮、怀孕或准备怀孕、哺乳、免疫系统受损以及曾经对相关药物产生不良反应的患者,AI系统必须停止自动处方流程,并转交人工医疗人员处理。

犹他州之所以能够进行这样的实验,与该州近年来建立的“AI监管沙盒”制度有关。该制度允许企业在政府监督下测试人工智能产品,同时在明确限定的范围内暂时豁免部分现有监管要求。

这意味着企业并不是获得了一个无限制的“AI行医许可证”,而是在与州政府和相关监管机构签署协议之后,可以针对特定产品、特定疾病和特定人群进行有限时间的测试。企业仍然需要遵守协议中没有被豁免的其他法律规定。

事实上,犹他州今年早些时候已经成为美国首个允许AI自主处理处方续药的州。当时Doctronic推出了一项AI医疗服务,可以在没有医生直接参与的情况下,为已经接受长期治疗的患者续开部分慢性病药物。

这一项目覆盖约190种常用的非管制药物,但不包括止痛药、注射药物以及用于ADHD治疗的部分药物。患者需要先通过身份验证和医疗信息核查,AI再根据既往处方和患者当前情况决定是否允许续药。

犹他州目前的新政策意味着AI医疗试验正在从“自动续药”进一步向“首次处方”发展。两者之间存在明显区别:续药意味着患者此前已经由医生确定了治疗方案,而首次开药则意味着AI必须根据患者当前状况作出新的临床决策。

这也是此次Nolla Health项目受到特别关注的原因。

犹他州官方要求Nolla Health在项目初期让两名持证医生审核每一份处方。随着项目推进,审核方式可以逐步转变为事后审核和抽样检查,但每一次进入新的阶段都必须得到州政府书面批准。

企业还必须购买职业责任保险,并在发生不良事件后向监管机构报告。同时,药房必须被明确告知处方由AI系统生成,并能够联系相关医生处理问题。

犹他州监管机构还要求企业不得出售或转移患者数据用于其他用途,并且必须定期提交项目运行数据,包括AI与医生判断之间的一致程度等指标。

犹他州政府认为,这种模式可以探索AI是否能够在部分常见、低风险的医疗场景中降低医疗成本,并缓解医生资源不足的问题。对于一些病情相对简单的患者而言,如果能够通过手机完成评估和开药,就可能减少前往诊所的时间和费用。

但医学界对于这种模式一直存在明显争议。

批评者认为,即使是看起来非常简单的疾病,医生在开药时也需要综合考虑患者的年龄、病史、其他药物、过敏情况以及一些不容易通过标准化问答发现的临床信号。如果完全依赖AI进行判断,一旦系统遗漏重要信息,就可能造成错误治疗。

今年早些时候,针对犹他州AI续药系统的安全测试也曾引发争议。安全研究人员通过相对简单的提示词攻击,曾经让相关AI系统产生错误医疗建议,包括错误提高某些药物剂量以及给出危险的药物建议。这类测试进一步凸显了医疗AI与普通聊天机器人之间的差异。

医疗AI最大的风险之一就在于,普通聊天机器人出现错误答案可能只是造成信息误导,但医疗AI一旦拥有开药权限,错误就可能直接转化为现实世界中的医疗后果。

因此,犹他州目前的试点实际上正在探索一个非常重要的问题:在什么条件下,人工智能可以从“医生的辅助工具”转变为“医疗决策的执行者”。

支持者认为,AI并不一定需要取代医生,而是可以承担大量标准化、重复性和风险相对较低的工作。比如简单的皮肤病评估、长期慢性病续药以及其他符合明确临床指南的情况,都可能成为AI率先进入医疗体系的领域。

而反对者则认为,即便某些病例看起来简单,也不能因此假定所有患者都符合标准模型。尤其是当AI拥有处方权之后,系统错误的代价会明显高于普通的信息问答错误。

目前犹他州并没有允许AI无限制地“当医生”。无论是Nolla Health的痤疮治疗,还是此前的AI续药项目,都被严格限制在特定药物、特定患者和特定流程之内,而且企业必须接受持续监督。

但从行业发展的角度来看,犹他州的意义仍然非常特殊。过去医疗AI主要用于影像识别、辅助诊断、病历整理和医生决策支持,而现在AI开始逐渐获得实际的临床决策权限。

如果这些试点能够证明,在严格限制和持续审查的条件下,AI能够安全地完成部分低风险医疗任务,那么未来其他美国州可能会参考类似模式,进一步放宽人工智能在医疗领域的应用范围。

反过来,如果试点过程中出现严重医疗事故、系统被攻击或者AI判断与专业医生出现大量偏差,那么犹他州的实验也可能成为监管机构收紧医疗AI权限的重要案例。

无论最终结果如何,犹他州正在进行的实验都意味着一个明显变化:人工智能进入医疗行业的阶段正在从“帮助医生工作”逐渐迈向“在有限范围内直接做出医疗决定”。而AI究竟能否承担这一责任,将不再只是实验室里的技术问题,而会越来越多地通过真实患者和真实处方接受检验。

查看评论
created by ceallan