人工智能背景下医疗法律责任的现实困境与完善(2)

(二)医疗人工智能的过错责任面临难以适用

过错是法律责任的核心要素，是指行为人在实施某种侵害行为时，没有尽到特定标准的注意义务，从而造成他人损害时的一种应受非难的主观状态[7]，包括故意和过失两种状态。然而，现行的以人的理性和自由意志为核心的过错归责理论，在人工智能背景下却备受挑战。伴随人工智能技术的不断更新迭代，在运作过程中脱离人类的预期和控制，拥有自身思考和学习能力，成为人工智能的核心特征。而这使得以行为人主观上“明知”或“应知”的注意义务为前提的过错法律责任难以适用因人工智能的使用而产生的侵权行为，肇因于以智能机器人为代表的人工智能是自主独立运作，不是基于人的故意或者过失？那么，此时，是归责于人工智能的设计者、开发者，亦或是生产者、使用者的责任？还是说可以直接归责于人工智能本身呢？比如，在医疗人工智能中，一位人工智能外科医生在执行常规的肿瘤切除手术时，突然遇到边上的动脉开裂，于是，智能医生决定去修补动脉，监督这台手术的人类医生同意该决定，智能医生修补好动脉后，病人因出血太多，所以，智能医生决定停止实施肿瘤切除手术，监督医生表示同意。但病人不得不因此花费更多的住院治疗费用以及肿瘤未能及时切除而造成的进一步病变的可能。经事后评估，智能医生的决定没有任何错误，监督医生也不存在失职之处。对于因此而给患者带来的相应损失及新增风险的赔偿责任，应当由谁承担？在人工智能是否具备独立法律责任主体资格存有争议的情况下，探讨其是否存在过错也就没有客观意义。那么，在这种情况下，医疗人工智能设计者、生产者、医疗机构或者医务人员等主体是否应作为责任主体呢？若要追究上述主体相关责任，直接依据是《产品质量法》严格责任归责原则下的产品缺陷责任，但医疗人工智能所造成的损失既可能是由于生产制造过程中存在技术缺陷，也可能是由于人工智能系统本身基于大数据转化和超级算法分析后独立思考作出的决定，现实中对该事实认定无法形成有效判断。

(三)人工智能医疗损害的因果关系认定问题

责任认定是一个逻辑推理过程，事实差异决定了结论不同[8]。因果关系认定是分析损害原因与损害结果之间是否具有关联的法律推理活动。事实的差异决定了因果关系的不同，从而决定了不同主体的责任承担。随着医疗人工智能的发展，以智能机器人医生为代表的具有独立思考决策能力的人工智能从事医疗诊疗活动，其所产生侵权后果的原因复杂多样，有可能是制造设计中存在缺陷，也有可能是销售使用中存在管理不当，还有可能是医疗人工智能自身所作出的判断与决定，这就给医疗损害中的因果关系认定带来巨大挑战。具体主要表现在：一方面，应用于医疗领域的人工智能自身缺陷难以证明。依据《产品质量法》的相关规定，生产者对产品缺陷所造成的损害承担的是无过错责任，而认定产品缺陷的标准主要有二：一是产品是否存在危及人身或财产安全的不合理危险;二是产品是否符合保障人体健康、人身财产安全的国家标准或行业标准。按照民事诉讼法“谁主张，谁举证”原则，作为患者的受害人很难证明对其进行诊疗的医疗人工智能存在《产品质量法》规定的缺陷，医疗人工智能高度自主性，导致侵害事实难以归咎于设计者、生产者。且目前尚未制定医疗人工智能技术在保障人体健康、人身财产安全方面的国家标准或行业标准，使得受害人在遭受损害后，无从援引相关标准以证明相关人工智能产品存在缺陷。另一方面，现代医疗人工智能系统的核心技术在于深度学习和超级算法，但深度学习在广泛快速学习的同时，也存在“不受前提预设、经验法则、传统智慧等因素限制”，造成智能机器人医生的生产者、设计者难以预见及控制未来是否会出现相应错误[9]。与此同时，算法本身也存在“技术黑箱”，所有的技术原理、信息、决策均在“黑箱”之中[10]。要对其中的算法模型和决策逻辑进行解释，对于人工智能的研发人员尚且困难，更遑论法官、律师等法律工作者，这进一步加大了因果关系的认定难度。

三、域外对人工智能医疗法律责任的探索借鉴

西方国家较早开始发展人工智能，在发展和使用的过程中也最先遇到了人工智能所造成的侵权损害责任问题，并且意识到要通过改变现有相关法律制度的手段来实现对人工智能发展进行必要的规制，以保障人类安全。

文章来源：《中国医疗美容》 网址: http://www.zgylmrzz.cn/qikandaodu/2021/0426/877.html