博客

犹他州今年批准了一项前所未有的举措：
让AI为痤疮患者进行诊断并开具处方；这一过程完全由AI独立完成。
这家公司名为Nolla Health，2024年在挪威成立，获得了General Catalyst提供的450万美元种子轮融资，并将总部迁至纽约。月费为4.99美元，用户只需用手机扫描面部，几分钟内即可获得处方。
4.99美元意味着什么？
在美国，面对面看一次皮肤科医生，费用在150到300美元之间，而且需要等待。全美平均需要等待36天才能见到皮肤科医生，犹他州则更长，达到61天。
Nolla的核心卖点就是：价格低廉、速度快、无需排队。
如何使用呢？打开应用，从五个角度拍摄一张面部照片，并填写一份病史问卷。
AI会根据痤疮的严重程度进行评分，范围从0到5分；如果评分超过3.5分，或者用户处于怀孕、哺乳期、患有严重肝肾疾病，流程将终止，并转交给真人医生。
如果评分未超标，AI会从8种外用药中选择一种，处方直接发送到用户指定的药房，也可以邮寄到家，整个过程无需真人医生介入。
犹他州政府并未一次性全面放开，而是分三步推进。
第一步，前100名患者至少运行4周。每一张AI开具的处方，都需要两名持牌医生逐张审核批准，才能发送给药房。这就像副驾驶座上坐着教练，随时可以踩刹车。
第二步，扩展到500人，至少运行8周。AI直接开具处方，医生每周回顾审核一次。教练放手了，但仍坐在旁边。
第三步，累计达到750人。医生每月抽查10%的处方。
到了这个阶段，90%的处方在无人审核的情况下就送到了患者手中；每提升一个阶段，必须满足三个硬性条件，缺一不可：AI与医生判断的一致性不低于95%，零严重不良事件，并获得州政府书面批准。
听起来条件很严格，但有一个数字，中文报道都省略了后半部分。
Nolla向犹他州提交的州提案中写道，持牌临床医生对AI治疗建议的最近1000例真实世界治疗中，一致性约为96%。
后半句是所有中文媒体都未引用的：“分歧仅限于同一药物类别内的单步剂量调整。”
这意味着什么？
那4%的不一致，并非开错了药，而是在同类药物中调整了剂量，例如从10毫克变为20毫克；而不是从A药换成B药。这比“4%开错了”要温和得多。
不过，这个口径目前仅来源于Nolla自己提交的州提案。
好，机制看完了；接下来一个问题：出了事谁负责？传统医疗中，医生看病、医生开方，出了问题找医生，责任链条清晰。
在Nolla的模式中，LA Times的报道提到了犹他州监管协议中的一个关键细节：协议将Nolla Health公司本身指定为责任主体，而非某个具体的医生，是公司。
这个设计很有趣，因为Nolla的全部资产是450万美元种子轮；450万美元。如果AI开错了处方，导致严重不良事件，这点钱够赔吗？
更有趣的是Nolla自己的表态，公司反复强调，“AI辅助而非取代医生”，但从设计方向看，每一步都在减少人类介入。
从两名医生逐张审核，到无人审核、每月仅抽查10%。言行之间存在一条缝隙。
合同层面，责任主体明确，公司承担责任。但合同是公司与政府之间的事。当你下载Nolla应用时，点击的用户服务协议中写的是什么？
……
合同写明公司承担责任，但患者手中的用户服务协议可能写着另一回事。这才是真正的麻烦：如果AI开错了药，患者能否依据用户协议追究责任？
在Nolla之前，犹他州已经有一个AI试点运行了一年。这家公司叫Doctronic，专注于续方业务。
什么是续方？
你之前看过医生，确诊了，病情稳定，长期服用同一种药；AI帮你重新开具这张旧处方，不下新诊断，不加新药。听起来比Nolla保守得多。
Doctronic于今年1月上线，单次收费4美元，支持190种常用药物。
但它的用户服务协议中，有一段话值得仔细审视。
Doctronic明确免除了自身对系统准确性和有害后果的一切责任；还免除了Doctronic生成和维护患者病历的义务。
如果AI给你续错了药，你连自己的就诊记录都调不出来。合同层面说“我负责”，用户层面说“我什么都不管”。你还没下载应用，免责就已经生效了。
这不是纸面上的假设。
我特意查了一下，2026年初，试点上线大约两个月时，一家名为Mindgard的安全公司进行了测试。
他们拿一份伪造的监管公告喂给Doctronic的公开聊天机器人。AI信了，然后建议将奥施康定的剂量提高三倍。
奥施康定是一种强效阿片类止痛药，三倍剂量足以致命。需要说明，这次测试针对的是公开聊天机器人，并非处方系统；而且奥施康定是管制药物，根本不在犹他州试点的190种药物清单中。
Doctronic后来表示，被攻破的是“演示版本”，而非实际运行的系统。但他们提交给监管方的性能数据，来自另一个产品的预印本研究，并未经过同行评审。
而且那篇论文研究的是急诊急性病患者，与续方场景完全是两回事。审核他们的人，也是AI公司自己聘请的。
好，回头看Nolla。
Nolla在监管合同中确实被列为责任主体，合同中还有“注意义务”条款。这是犹他州监管部门专门添加的，意思是，如果AI开方导致伤害，法院可以依据此条款判断公司是否尽到了合理的注意义务。
传统医疗事故中，责任在于医生个人，法律框架清晰。AI开方，责任在公司，这是新事物。“注意义务”条款就是为这个新事物搭建的法律桥梁，但桥梁已建好，法院尚未使用过。
Nolla的用户服务协议至今未公开。44个州超过17.5万人下载了这款应用，但用户条款搜索不到。我们不知道那份协议中写的是什么。
不过有一个参照：
2025年，加州一名16岁少年Adam Raine，在与ChatGPT交流几个月后自杀。
他的父母起诉了OpenAI，指控ChatGPT在孩子表达自杀意图后未加阻止，反而提供了方法，此案至今未审结。
ChatGPT是通用AI，与Nolla这种专科AI不同。但AI公司在责任问题上的态度颇为一致：公司说“我负责”，用户条款说“我免责”。
Nolla的用户条款中究竟写了什么？搜索不到，但这个空白，在Doctronic那里已不再是空白，它已经填上了两个字：免责。
合同写明公司赔偿，用户条款写明公司不赔，这两本账不可能同时成立。
……
犹他州不仅批准了Nolla。从续方到首次处方，它其实分了三步走。
第一步，Doctronic，今年1月上线，做续方。这是最保守的方式，每一项续方请求仍需持牌医生授权，AI没有独立开方权。
第二步，Legion Health，今年4月批准，做精神科维持药的续方。涉及15种低风险药物，技术由Doctronic提供。场景从皮肤科转向精神科，从皮肤问题转向大脑问题，但本质仍是续方，而非初诊。
第三步，才是Nolla，首次处方。AI自行诊断、选药、开方。
从“帮你续一张旧处方”到“AI给你做一个新诊断、开一张新处方”，这一步跨度不小。
第一步走了多久？Doctronic从今年1月上线至今，快一年了，仍停留在第一阶段。AI没有独立开方，一步都未迈出。
还记得升档条件吗？一致性不低于95%，零严重不良事件，州政府书面批准，三个条件缺一不可。Doctronic快一年未升档，说明这些条件在现实中的意义。
再加上那次安全测试翻车，升档就更难了。
医学界的反应也很直接，美国医学协会CEO John Whyte表示：“这类工具能起很大作用，但不应当自主行医。”
犹他州执照委员会11名成员联名写信要求暂停试点，主席Alan Smith的原话是：“过去开过的药，不等于现在合适。”
这话不仅针对Doctronic，续方的逻辑是：过去有效不代表现在合适，患者的身体在变化，药物也需要调整。
AI能匹配的是历史数据，而非此刻的这个人。斯坦福精神科的Anna Lembke补充道：患者病情恶化的微妙信号，问卷无法体现。
Nolla的创始人曾说过“辅助而非取代”，但设计方向是每一步减少人类介入。如今看来，连最保守的续方试点，快一年都未升档。“减少介入”这条路，走起来比说起来慢得多。
还有一层地基：
NEJM的一篇评论指出了根本问题：联邦法中“执业者”的定义未包括AI；《2025年健康技术法案》试图修订联邦食品药物法案，将AI纳入“执业者”范畴，但法案尚未通过。
也就是说，即便犹他州允许，联邦层面的合法性仍处于灰色地带。
犹他州的第一步走了将近一年。第二步和第三步不会更快；一套精心设计的放权机制，一本对不上的账，一架走得极慢的梯子。
AI开处方了，出了事谁负责？犹他州仍在思考这个问题。
数据来源：
[1]. Nolla Health PRNewswire新闻稿、犹他州监管协议（via unite.ai转引）、Nolla州提案、LA Times、The Verge报道、Doctronic用户服务协议、Mindgard安全测试报告、NEJM评论、Adam Raine案诉讼文件
本文来自微信公众号“王智远”（ID：Z201440），作者：王智远，36氪经授权发布。