算法是新的医药：AI在医学方面的行业发展趋势

编者按：影像学专家和临床学者，Hugh Harvey医生撰文提出，算法是一种全新的医药，以制药业发展的历史为鉴，可以预见AI在医学方面的行业发展趋势。Huge Harvey曾在NHS和ICR接受训练，两度当选ICR评选的年度最佳科普作家。曾就职于Babylon Health，领导公司的合规团队获得了世界上第一个基于AI的分诊服务的CE认证商标。目前从事影像科咨询，任英国皇家影像学医师协会信息学委员会成员，并担任包括Kheiron Medical在内的一些AI初创公司的顾问。

曾几何时，药剂师和治疗师在后街和集市上出售他们的洗剂和药剂，承诺这些会为所有愿意购买的人提供耐力和活力。蛇油与奇迹疗法一起兜售，其中大部分除了作为安慰剂外没有任何作用。渐渐地，循证实践诞生了，现代医学来临了。只有那些证明了自身的有效性的疗法保留下来，已成立药物的处方缓慢而确定地增长。现在医生开处方，药剂师核查和发放药物，病人总的来说好转了。今天，我们有一个严格监管、激烈竞争和公开赚取荒唐的利润的全球制药业。去年，前十大制药公司的总收入共计四千亿美元以上。现在，我们正处于一个全新的十亿美元产业的风口上；“医疗算法业”（medical algorithmia）正准备把医学推向更高的位置……

算法是新的药品，医生是新技术处方开具者。

要理解人工智能（AI）和算法行业（也就是“大技术”（Big Tech）、“大算法业”（Big Algorithmia），“数字健康”（Digital Health）的未来，人们只需看看当初制药业是如何变成庞然大物的，包括新药的研发和上市，医学实践是如何围绕安全给药和药物监测进行的，以及医生是如何学习了解药物的作用机制和副作用的。

因此，根据从大制药业现有实践中得到的经验教训，我预测围绕算法的一些辅助产业即将爆发。

广告和营销

英国制药行业协会（Association of the British Pharmaceutical Industry，ABPI）以及美国研究研究与制造商协会（Pharmaceutical Research and Manufacturers of America，PHRMA）制定了行业规范，所有制药公司在推广其产品以及和医护从业人员互动时必须遵守。如果你愿意，可以将它称为由罚款支撑的道德框架。它详细描述了公司在向临床医生和患者推广药物时的行为规范。它们包括诸如公司可以在取悦客户、免费钢笔、CME（医学继续教育）资助方面花多少钱，以及“沟通试验结果”的最佳实践。其目的是防止传递错误信息、夸大疗效和统计上的小花招 ——大量制药公司精于此道。

然而，批评者仍然存在。Ben Goldacre医生，一个道德破产的世界（他称之为制药恶业（Bad Pharma））的坚定抵抗者，如此写道，尽管有伦理规范，制药公司仍设法规避，“……设计不当的试验，少得令人绝望的不具代表性的特别患者，使用设计上存在缺陷的分析技术，通过这样的方式，他们夸大疗效……”。听起来有点耳熟？其他有效的批评包括制药公司缺乏发表负面试验结果的压力。

显然，也可以如此批评算法开发人员。我从未看到一篇关于深度学习的论文，公开声称“我们的算法没有效果”，其中一些具有“积极”结果的论文使用了一些相当可疑的统计学的障眼法。当然，整体而言，AI周围仍然围绕着一股炒作和煽动的风气。我想这部分是因为依赖风险投资的公司，因为害怕未来没有人给它们投资而不愿意承认某些算法不起作用。每篇AI学术论文（顺便一提，它们很少经过同行评审）后都紧跟着一篇夸大的媒体新闻稿，声称“算法X在Y领域的表现超过了医生！”，这肯定不是什么好事。

我们不应该仅仅责备媒体。只需到今年的RSNA（北美放射协会年会）的摊位前看看，就可以了解一些公司的夸大宣传有多过分。我们需要记住的是，算法的强力临床调查和后续营销的环境和框架仍在初始阶段，也正是在这样的一个环境下，随着监管机构和开发人员找到解决方法，我们将看到这方面的大规模加速增长。在此之前，我们只能透过炒作的重重迷雾来寻找实际的真相。

所有的制药公司都有一个负责临床事务的外部沟通的专门团队——称为医务团队。团队由在医疗事务、医学写作和科学联络方面受过训练的专业医生组成，他们的任务是签署任何外部学术出版物，品牌和营销，与意见领袖和客户进行科学交流，并确保所有交流在临床上的准确性。毕竟，任何被发现发布虚假广告的制药公司都会受到重罚。因此，我预计AI开发人员也需要聘请一个“医务团队”来处理同样的交流任务。由未经临床培训的工作人员从事AI公司临床交流工作，特别是直接处理医疗保健事物，是不可接受的。

同时，我预测，在FDA及其等效的验证和监管框架之外，会有一个监督算法营销的机构，并引入一套伦理操守准则。该机构很可能会借鉴制药行业规范在营销、销售和广告方面的准则，以确保医院确实在销售高新技术而不是数字蛇油。它可能会复制“取悦客户”的规则，并设立准则，规定业务开发经理可以或不可以说什么，甚至可能会就关于算法有效性的新闻稿如何行文制定相应的指南。如果某个地方的某个人已经建立了这样一个机构，那么我不会感到惊讶——它应该是大有裨益的……

但是，如果没有可靠的临床研究和临床试验作为基础，这一切都将是空中楼阁。我之前已经谈过统计分析报告和监管框架——但还没有讨论算法实现的后遗症——我接下来会谈论大制药业生命周期的下一部分——释放到临床工作流程的荒野之中后，对算法的持续监督。

算法安全和技术警戒

世界上每一家医院都有一名药剂师负责监督用药安全。无论他们是专注于处方错误、出院沟通，还是无菌制备、分发失误，他们的任务是确保在临床实践中最小化药物的危害和副作用。这是整个患者安全中非常重要的一部分，常常是日常临床护理的焦点。（医院中的物理医疗设备也是如此——我担保有雇员负责确保装备的电气合规性、质量保证和日常维护。）

算法安全性需要相同水平的监督。算法不仅可能造成意外伤害（没有算法是完美的），还需要根据监管要求接受严格的上市后监督。医疗设备的国际标准（包括ISO 13485）明确规定，开发者应该确保有一个稳健的内置系统监控真实世界的设备表现。这包括定期审计算法输出，并提供反馈机制以确保错误得到处理。

技术警戒（technovigilance）是一个新名词——它是受大制药业的“药物警戒”这个词的启发而提出。类似强制报告医药安全的英国的黄牌系统以及美国的药品评价和研究中心（Center for Drug Evaluation and Research）系统，技术警戒这一设计确保公司和最终用户将所有新的或意料之外的伤害报告给一个中央管理实体。例如，如果检测患者心房颤动（AF）发作的算法没有触发导致患者遭受伤害，那么该事件必须同时报告给开发者和相关安全监督机构。

我想说，我预测围绕安全和技术警戒概念将产生一个行业——但实际上已经有这样一个行业了！第三方监管公司现已提供技术警戒咨询，并帮助建立医疗设备的合规流程。该行业的扩张将提供监控算法安全性的服务。该行业不仅将确保持续性的安全监控，还将与极其重要的IV期临床研究结合，在现场环境对算法的表现进行临床评估，以评定其安全表现。

医学教育和相关健康专家

漫画译文：我无法相信学习还在教孩子们零假设。我记得好几年前就读到一个重大研究，最终证伪了零假设。

医学教育也必须适应新的数字化未来。正如今天的医学生必须学习药效动力学机制、半衰期、生物效应和化学串联反应，未来的学生将需要了解统计偏差、人工神经网络函数、数据结构和解释算法输出。除了学习药物类别及其副作用，医生还需要了解不同类别的算法，其适应症和局限性，以及如何在上下文中解释其输出结果。和药物安全性一样，医生需要关注算法的安全性。例如，一种药物有已知的功效、预期的目标人群、推荐剂量和监测要求。开处方前，医生需要了解药物的大部分情况（如果他们不了解，他们不应该把药开进处方！）。类似地，算法有已知的精确度、预期的目标人群、推荐用法，并且需要监测。毫无疑问，在算法的局限性方面，医生应该接受和药物的副作用一样程度的教育。

基于这些原因，我预计医学院训练将不得不适应并开始教授基础数据科学，并更加关注统计学的理解。现在我们简要地向学生介绍基本的卡方检定和T检验，而下一代医生必须能够处理更复杂的统计方法，包括（但不限于）ROC曲线、AUC、概率建模、推断和让步率。只有到那时，我们才准备好了引导医学数字化演变的临床主力军。

所以，我预测，将产生一个向医生提供数据科学教育的产业。这已经开始发生了，在线课程和MOOC开放课程面向所有想成为数据科学家的人。我认为我们将开始看到专门针对临床医生的课程，重点关注医疗背景下的算法和解释算法输出所需的概率学知识。

当然，临床实践中算法的最终用户并不仅仅包括医生。医学走廊里充满了不是医师的专业人士，几乎医学的每个方面都有。我们有超声波检验师、手术室护士、病房管理员、搬运工、药剂师。因此，我预测会出现一个专注于算法的全新医疗专业，我们称他们为“算法师”。

作为临床算法的专家，算法师将检查医院使用的算法是否正确，使用算法的场景是否正确，在选型流程中帮助选择好的算法，提供哪些技术适用哪些场景的建议，监督医院内的算法安全，同时负责“技术警戒”报告。我想，成为算法师所需要的技能组合将是非常利基的——既有基本的临床基础，也有数据科学的背景。

你可能想知道为什么需要单独的专业。好问题！在我看来，即使我们有效地教育医生，他们不具备成为真正的全职算法师的时间或专门技能。事实上，让医生远离一线是临床训练上的浪费。是的，一些临床学者具备必要的技能并且可能领导算法师部门，但是在医院的日常临床活动中，对这些专家意见的需求会非常大，因而大部分工作都需要经过专门训练的专职医疗人员来完成。相比花钱让医生远离患者，专业工作人员的性价比也更高。

所以我们了解了什么？

药物无法提供安全有效的医疗，是人和系统提供了这些。AI和算法同样适用这一点。

通过观察大制药业，AI开发人员得以开始预测其行业内外的发展趋势。准备好适应和接受这些变化对于可持续增长至关重要。

从医疗事务和营销指导，安全和技术警戒，到教育和训练专业人员，AI开发人员都可以参与整个支持产业的生态系统并从中受益。 如果他们参与这些，从大算法业中最终受益最多的是我们的患者。