在美国食品和药物管理局(FDA)批准一种药物之前，它必须证明安全性和有效性。然而，FDA并不要求了解药物的作用机制才能批准。在没有解释的情况下接受结果，这引发了一个问题，即为了获得FDA的批准，是否必须充分解释安全有效的人工智能模型的“黑匣子”决策过程。

这个话题是12月4日周一在麻省理工学院阿卜杜勒·拉蒂夫·贾米尔健康机器学习诊所(贾米尔诊所)人工智能与健康监管政策会议上讨论的众多讨论点之一，该会议引发了教师之间的一系列讨论和辩论;来自美国、欧盟和尼日利亚的监管机构;以及有关卫生领域人工智能监管的行业专家。

随着机器学习继续快速发展，监管机构是否能够跟上并减少有害影响的可能性，同时确保各自国家在创新方面保持竞争力，这种不确定性仍然存在。为了营造一个坦率和公开讨论的环境，贾米尔诊所的活动经过精心策划，有100名与会者通过执行查塔姆研究所规则进行辩论，允许演讲者匿名讨论有争议的观点和论点，而不会被确认为来源。

Jameel诊所的目标不是举办一场关于人工智能在健康领域的活动，而是创造一个空间，让监管机构了解人工智能的最新进展，同时允许教师和行业专家提出新的或不同的方法来监管卫生领域的人工智能框架，特别是在临床环境和药物开发中使用人工智能。

人工智能在医学中的作用比以往任何时候都更加重要，因为该行业正在努力应对大流行后的劳动力短缺、成本增加(“尽管人们普遍认为这不是工资问题，”一位发言者说)，以及医疗保健专业人员的高倦怠率和辞职率。一位发言者建议，临床人工智能部署的重点应更多地放在操作工具上，而不是患者的诊断和治疗上。

一位与会者指出，“所有组成部分都明显缺乏教育——不仅在开发者社区和卫生保健系统中，而且在患者和监管机构中也是如此。”鉴于医生往往是临床人工智能工具的主要用户，一些在场的医生请求监管机构在采取行动之前咨询他们。

对于与会的大多数人工智能研究人员来说，数据可用性是一个关键问题。他们哀叹缺乏数据使他们的人工智能工具有效地工作。许多人面临着诸如知识产权限制访问或仅仅是缺乏大型高质量数据集等障碍。一位发言人在活动中指出:“开发人员不能花费数十亿美元来创建数据，但FDA可以。”“价格的不确定性可能导致对人工智能的投资不足。”来自欧盟的发言人大力宣传建立一个系统，要求各国政府向人工智能研究人员提供健康数据。

在为期一天的活动结束时，许多与会者建议延长讨论时间，并赞扬了有选择性的策展和封闭的环境，这创造了一个独特的空间，有利于就卫生领域的人工智能监管进行开放和富有成效的讨论。一旦未来的后续活动得到确认，Jameel诊所将举办类似性质的额外研讨会，以保持势头，并使监管机构了解该领域的最新发展。

“任何监管体系的北极星都是安全，”一位与会者承认。“代际思维由此产生，然后顺流而下。”

作者：Alex Ouyang | Abdul Latif Jameel健康机器学习诊所

链接：https://news.mit.edu/2024/what-to-do-about-ai-in-health-0123

著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

声明：海森大数据刊发或者转载此文只是出于传递、分享更多信息之目的，并不意味认同其观点或证实其描述。若有来源标注错误或侵犯了您的合法权益，请作者与本网联系，我们将及时更正、删除，谢谢。电话：15264513609，邮箱：1027830374@qq.com