来源：CHINESE JOURNAL OF MEDICINAL GUIDE 2022 Volume 24 No.1(SerialNo.219)
作者：章颖（清华大学智能法治研究院精准医疗法律与政策研究实验室，北京100084）
摘要：近年来，人工智能（AI）和精准医疗（precisionmedicine）的融合正在医疗保健领域推动新的革命。精准医疗方法可以利用人工智能的复杂计算技术和模型，结合各种基因及非基因数据，使系统在数据和算法驱动下进行推理和学习，辅助临床医生及研究人员做出更为精准的相关决策。研究显示，人工智能在基因组学、肿瘤临床治疗、分子影像学等领域中显示了巨大的技术应用空间，但也面临着系统偏差、相关性限制、算法黑箱、不公平性等潜在挑战。只有从公平性、患者权利、透明度和可解释性，以及问责制等方面加强人工智能的治理，才能真正提高患者福利，促进人工智能与精准医疗的深度融合。
目前，基因组测序技术、生物信息技术、分子影像技术以及数据科学驱动下的“精准医疗”（precisionmedicine）正在中国、美国、欧盟等国家和地区紧密推进［１］。同时，健康医疗的数字化以及大数据科学的迅速普及也在快速推动人工智能（AI）在医疗领域的进步［２４］。近年来，精准医疗与人工智能呈现深度融合的趋势［５］——精准医疗方法正在利用人工智能复杂的计算技术和模型，使系统在数据和算法的驱动下，把患者基因组和非基因组等决定因素与患者症状、临床病史及生活方式等信息结合在一起，通过机器学习、深度学习等算法进行学习和推理，辅助研究人员和临床医生的医疗决策，进而在提高效率降低成本的基础上，促进对人类疾病的精准预防、精准诊断及精准治疗。现有研究证明，人工智能的投入，很大程度上协助精准医疗克服难题，从而进一步加速精准医疗在各国医疗保健领域的发展［５，６］。
1 人工智能在精准医疗领域的具体应用
精准医疗中的人工智能应用可以被分为不同的维度来讨论，如可以分为强人工智能和弱人工智能；可以是纯粹基于系统软件的嵌入式，也可以是基于硬件的非嵌入式［７］；可以被用于辅助某个特定的精准医疗系统进行决策（如采用人工智能辅助精准研发药品），也可被用来辅助、增强甚至替代医生的临床治疗（如达芬奇医疗机器人），或者被用来辅助患者决策。在精准医疗实践中，人工智能被广泛用于实现精准预防、精准诊断及精准治疗领域的不同目的，按照所涉及的不同领域，其具体应用可以进一步分为以下几个方面。
1.1 人工智能在精准医疗基因组学的应用
随着人类基因组测序的快速发展，精准医学可以揭示人体及疾病治疗的巨大复杂性，以及遗传和患病风险因素之间的相互联系。通过基因分析，精准医学可以在人工智能的协助下识别出特定疾病风险概率较高的患者，从而为个体化精准预防提供方案；机器学习、深度学习可以帮助基因组学描述ＤＮＡ序列，确定基因与特定疾病之间的联系，找到驱动性基因改变，为患者确定合适的药物，并大大节省所耗费的时间和成本［８］。如２０１５年基于深度学习的ＡＩ算法网络被用于预测非编码序列改变的染色质效应［９］；2016年BasenjiAI预测模型被用于协助预测特定细胞类型基因的表达能力［１０］；2019年深度学习在蛋白质组学中被用于协助确定细胞内蛋白质分布，以助力新药的研发［１１］。
1.2 人工智能在肿瘤等临床精准治疗的应用
人工智能的开发对于肿瘤学等精准治疗领域也有重要作用，机器学习等算法广泛被用来对癌症类型进行分类，寻找与治疗结果及治疗反应相关的特定生物标志物，协助确定靶向药物，并预测靶向药物的耐药性，从而支持癌症的精准临床治疗方案。2017年，Bejnordi等［１２］率先尝试使用深度学习算法自动检测乳腺癌病理切片中是否存在淋巴结转移。通过人工智能多组学分析方案也能支持对其他癌症的预防和诊断［１３］。
1.3 人工智能在分子影像学领域的应用
利用分子影像学从医学图像中提取具有临床意义的特征是精准医疗的重要手段，在这个过程中嵌入成像系统的人工智能可以较大程度上辅助图像分析［１４］；通过图片分割、特征提取、相关特征的选择、建模和验证等，人工智能的应用不仅提高成本收益和图像确认速度，而且能够协助医生进行更精确的诊断［１５］。采用人工智能进行图像分析除了可以被应用于确定肿瘤分期，确定癌症的组织病理学类型，协助预测治疗方案，还可以结合基因组数据补充放射组学特征，使精准医学基于生物学、分子影像、基因组学的全面整体实践成为可能。
1.4 人工智能在流行病等公共卫生领域的应用
基于人工智能的辅助工具可以在免费数据共享、创建数据库、加速诊断等方面发挥极大作用，协助将患者分层到不同风险组，以定制个性化治疗方案［１６］，并最大限度地减少疾病传播。如在近期建立的新冠病毒开放研究数据库中，机器学习模型被引入并被用来预测相关的感染及死亡风险，帮助确定药物、治疗方案，协助评估再入院、死亡或长期住院的风险［１７］。人工智能预测模型可以将“原始”数据转化为临床上有意义的信息，并且在基因组、电子健康记录和公共卫生数据集的基础上进一步提高医疗决策的质量，但是对相关敏感数据的处理往往会激发相当热烈的伦理、法律和社会学讨论。
2 人工智能辅助精准医疗决策存在的问题
人工智能为精准医疗预测疾病进程、有效管理个性化治疗提供了必要的工具，但是也在技术、伦理、法律等方面存在以下几个方面的问题。
2.1 人工智能决策性能偏差
ＧｏｏｇｌｅＢｒａｉｎ的Ｒａｊｋｏｍａｒ及其团队指出，医疗人工智能本身可能存在４类偏差：模型设计的偏差、训练数据的偏差、人工智能系统与临床医生互动中产生的偏差，以及人工智能系统与患者互动中产生的偏差［１８］。类似的偏差问题在精准医疗中同样存在。机器学习等算法所使用的临床数据可能会缺乏真正的代表性，预测结果不仅会体现出所用数据集的既有偏见，甚至可能放大由性别、种族、年龄、地理、社会／经济状况带来的各种数据偏差，进而导致精准医疗辅助决策的偏差。
2.2 人工智能算法的“相关性”
实践中所使用的ＡＩ算法可以分为有监督学习、无监督学习以及强化学习等不同类型。其中有监督的机器学习算法仍然需要进行数据标记，但无监督学习模型中的“相关性”往往是从未标记的数据中提取的，而强化学习本身就是基于试错从而计算出最大的准确性以辅助决策。这些决策过程本身基于“相关性”（correlations）而非完善的“因果性”（causality），因此具有一定的不确定性，但是所有不确定因素在精准医疗中都需要被仔细考量。
2.3 人工智能算法的“可解释性”
“算法黑盒”是人工智能算法的特征之一。具体来说，人工智能算法从非常简单和透明的结构逐步发展到复杂的自学习形式，目前已经发展到无需程序员就可以自我测试、自我调整分析程序，已经无法明确解释人工智能算法如何从一个输入数据开始并最终处理输出一个特定具体的分类结果。举例来说，人工智能算法可以分析皮肤癌的医学图像并得出决策结论对医生诊断进行辅助，临床医生可以解释甚至验证这些算法的结果，但往往无法说明这些算法的推荐或判断的过程。这不仅是认识论和伦理上的挑战，也是构成精准医疗的风险点之一。
2.4 人工智能决策公平性
人工智能算法无法考虑到全局，只能从提交给它的数据中学习模式，数据准确率往往决定了医疗人工智能的公平程度。如果所基于的分类模型在某一个群体上表现得不太准确，那么对这部分群体来讲，人工智能做出的自动决策不一定是公平可靠的。如大部分实验室用于发现和测试止痛药的动物模型几乎都是雄性，导致止痛药等药物对男性来说更有效果，而没有针对女性进行优化。同理，如果基于类似带有性别偏差的数据进行人工智能研发，显然不能保证针对每个个体得出最正确而公平的决策。此外，通常用于人工智能训练的公开数据集往往是同质化程度较高，范围相对狭隘，而且大量敏感数据按照数据保护法的要求被隐藏甚至删除，这给人工智能系统在精准医疗决策结果的公正性等方面带来了不少质疑［１９］。
3 精准医疗中人工智能的治理
3.1 强调公平性
精准医疗中人工智能治理要以人为中心，促进精准医疗领域中人工智能开发、部署和使用时的公平性。①首先要从数据入手，确保人工智能系统使用代表性广泛和高质量的数据集，保障所使用数据的准确性、一致性及有效性。②要在训练数据、模型设计、算法选择、技术部署等各个环节中识别出可能引起偏差的潜在因素，提前防范非歧视和预防偏见。③要通过多领域协作，开发能够平衡数据敏感性和可使用性的隐私保护算法，最大限度保留个体化特征的数据特征，以提高精准医疗中的人工智能决策公平程度。④在精准医疗领域不仅要追求人工智能实质上的公平，还要促进程序上的公平，确保患者对人工智能所做出的决策能够提出异议或者能够采取有效的补救措施。
3.2 增强患者决定权
精准医疗的人工智能治理应增强患者决定权。①在精准医疗过程运用人工智能时，必须赋予患者充分的信息知情权，以便患者能够做出理性、明确的决定。②在个性化的精准医疗模式中，尤其要保障患者的个人信息权，满足患者的访问权、更正权、删除权、可携带权等权利要求，确保患者对于个人信息权利的处分。③当使用人工智能决策可能对患者产生重大影响时，患者对相关自动化决策有得到说明和解释的权利。④一些人工智能治理原则要求在人工智能决策过程当中必须有“有意义的人类控制”（meaningfulhumancontrol），如果精准医疗中的人工智能缺少有意义的人类控制，患者可以行使拒绝的权利。
3.3 保障人工智能可解释性和透明度
精准医疗的人工智能治理需要打开“黑箱”。①提高训练模型、源代码、运算规则、决策权重等因素的透明度，以便发现和检查潜在的偏差。②增强技术透明度，提高人工智能系统与医生、患者和之间的互操性，增强ＡＩ算法的可理解程度。③制定人工智能算法可解释的评估指标和监管政策，定期进行更新和评估。④精准医疗的人工智能应用属于高风险决策，尤其是在图像识别或基因序列分析等大规模、高维数据分析的情况下，可解释性可能会过度限制模型的复杂性，降低精准医疗的准确程度，因此需要做好可解释性、透明度与其他价值之间的平衡。
3.4 建立完善的问责制度
精准医疗的人工智能治理需要建立完善的问责制度。①精准医疗中的人工智能应当以保护患者的生命及健康基本权利为底线。对于人工智能系统做出的医疗决策对个人造成伤害的情形，需要建立合理问责机制，正确区分ＡＩ算法设计者、人工智能制造者、人工智能产品测试者、人工智能培训人员等算法上游责任主体，以及使用人工智能的临床医生或者患者等算法下游责任主体。②政府监管部门应当确保受到人工智能医疗决策损害的患者得到合理的司法救济，制裁不符合标准规范与安全要求的人工智能技术开发商和制造商。③需要加强对ＡＩ算法的审计，完善人工智能监管领域的法规、标准、指南、计划、规范，以进一步确保问责制的具体落实。
4 结论
综上所述，精准医疗中人工智能的应用是一个快速发展的领域。我国作为国际舞台上人工智能和精准医疗的主要参与者，明确鼓励人工智能技术在精准医疗等方面的应用。2017年7月国务院印发《新一代人工智能发展规划》［20］提出要“基于人工智能开展大规模基因组识别、蛋白组学、代谢组学等研究和新药研发，推进医药监管智能化。加强流行病智能监测和防控”。加强人工智能治理，推广应用人工智能治疗新模式新手段，是快速发展精准医疗的必由之路。
