新闻中心

禁用AI处方是为了对生命负责

作者:侦探调查 时间:2023-08-23 09:07

  北京市卫健委日前牵头组织制定了《北京市互联网诊疗监管实施办法(试行)》,并向社会公开征求意见,公众可于 9 月 16 日前向市卫健委反馈意见。根据办法:医疗机构开展互联网诊疗活动要加强药品管理,严禁使用人工智能等自动生成处方,严禁在处方开具前向患者提供药品。

 
  虽然“严禁使用人工智能等自动生成处方”只是征求意见中的一种,而且可能会引发争议,但是从目前AI的发展来看,禁用AI自动生成处方利大于弊。AI现在还不成熟,还处在发展阶段,在涉及健康和生命这样生死攸关的问题上,需要暂时的禁止或更长时间的禁止。
 
  现阶段AI介入医疗领域涉及两个根本问题,一是AI诊治疾病,包括自动生成处方是否靠谱;二是如果AI自动生成处方并让病人获得治疗,包括服药、手术和使用器械等,一旦产生意外,谁来负责。
 
  AI早就在介入医疗领域了,较早、也是全球闻名的是2011年国际商用机器公司(IBM)创造的沃森医生(Watson Health),尽管当时对一些疾病的正确诊断率达到73%,但直至今天,沃森医生也不能单独上岗,因为这个正确诊断率还是太低。
 
  另一方面,即便是通过深度学习,AI的决策与人工医生也存在差异,尤其是原则差异。例如,在诊治疾病时,是以患者生命长度为第一要素,还是把生命质量放在首位,或者说兼顾这二者。人工医生首先是会兼顾这二者,而且要考虑患者的经济、家庭情况,以及患者康复后是否还有工作能力。从这些方面平衡,人工医生的优势是显而易见的。
 
  此外,让AI医生单独或自动开处方,如果出现医疗事故,如造成患者更大的伤害,甚至让患者丧失生命时,负责和索赔的主体是AI医生,还是研发AI医生的公司,抑或是购入和使用AI医生的医疗机构和医生。在法律主体不能确认时,AI医生是不可能单独诊治疾病的。
 
  正因这些原因,现在无论中国还是国外的医疗机构都只是引进了临床决策支持系统(CDSS),也即广义上的AI医生,这是一种为医护人员临床诊疗提供多种帮助的计算机辅助信息系统。截至2020年5月,全国31个省份的1013所医疗机构中有19.6%的医院有CDSS。至于其他各个学科各种疾病的AI医生,也都是助手,AI不可以、也不可能取代医生,不应有处方权。
 
  禁止AI医生自动生成处方还有一种人机冲突因素,即真人医生发现AI医生错了时,是按真人医生的意见办还是按AI医生的意见办。这个困境的背后也是谁负责的问题。如果是人工医生错了,当然是医生负责,但如果是AI医生错了,它能负责吗?更进一步的困境是,人工医生面对AI医生,也许会为了避免承担责任,不会主动纠正AI医生的错误,而这很可能会导致医疗事故。
 
  哪怕是AI医生有99%的正确率,恐怕也无法获得单独的处方权和治疗权,而是必须只为真人医生和护士当助手。当然,医生有会诊的传统,这是共同讨论病例,各抒己见并取得对疾病,尤其是对疑难疾病共识的好方式。在未来,AI医生或许可以加入到会诊中,这也是AI医生的一个重要角色。


联系我们

实力雄厚、手续完善、设备先进、在守法的前提下具有高效率的调查公司