大家好，我是Art Caplan。我在纽约大学格罗斯曼医学院的医学伦理学系工作，位于纽约市。
不久前发生的一则新闻让我大吃一惊。我非常惊讶于这种提议竟然会出现，但这是埃隆·马斯克提出的。如果你关注他的活动，也许不会感到太意外。他有很多有趣的想法和追求，从试图前往火星，到决定如何削减联邦政府的预算，再到像Neuralink这样的项目，他在这些项目中尝试使用AI和计算机技术将人脑与计算机连接起来。
在这次事件中，他呼吁在X（他购买的Twitter网站）上的用户上传医学检查结果，如CT扫描、骨扫描和神经成像，以便他正在开发的新AI聊天机器人Grok能够更好地学习如何解读这些检查结果——换句话说，就是用人工智能取代医生的工作，通过不同的扫描技术进行诊断。他基本上是在呼吁人们尝试通过X提交X光片、PET扫描、MRI或其他医学影像，以使Grok成为一个更好的“医生”。
已经有一些关于AI的经验，我只想说它远未达到准确的程度。你们中的许多人可能听说过“AI幻觉”。如果你只是从一个不具代表性的亚群体中获取随机信息，你将会得到很多错误的结果。
尽管我们在使用AI分析血液样本方面取得了一些成功，但我们也看到AI在乳腺扫描、结核病测试和宫颈涂片检测中出现了误诊。AI还远未准备好进入实际应用。埃隆·马斯克会同意这一点，并表示这就是为什么他希望人们发送这些信息，因为我们必须改进，我们必须做得更好。
接下来是伦理问题。首先，如果你只是在X上说“给我发图像”，你不知道是谁在发送图像。你不知道它们是否准确。你不知道使用这些图像的人是否具有代表性。这不是一个可靠的数据来源来教授医学诊断。
你需要有一个足够的样本。你必须确保你没有只从健康的白人男性或年轻人那里获得大量样本，如果这些人更多地使用X的话。要求人们提交自己的检查结果——谁知道这些结果是否准确或者他们是否说实话？向Grok提供垃圾信息不会产生一个智能的替代放射科医生或其他形式的医师诊断师。
其次，在分享这些信息时，很容易去识别化。他们会知道你是谁。马斯克与医疗保健领域有关联。我会说不要在没有绝对隐私保证的情况下分享任何信息。我没有看到他们在此次信息征集中有任何相关的隐私保护措施。
就像23andMe这家基因公司一样，它要求人们为了确定族裔和血统而发送DNA样本，但在破产时却无法保护其隐私。没有任何保证表明，作为患者发送你的图像和扫描结果会在未来得到任何形式的保护，以防第三方想要查看Grok积累的数据。
最后一个大问题是，我们为什么要免费做这件事？埃隆·马斯克是一个亿万富翁。如果他想要信息，为什么不花钱找一个有代表性的样本进行测试，建立正常基线，然后再探索疾病基线是什么样的？
我们需要有良好的自动化技术来帮助诊断——请注意我说的是帮助，而不是取代。如果没有基线，人们只是随意发送医学检查结果，你不会得到一个准确的AI诊断师；你会得到一团糟。
我认为现在有很多理由不响应马斯克的要求。作为一个富有且聪明的人，他可以做得比说“给我发随机的测试结果，我会教我的聊天机器人成为一个更好的伪医生”更好。我不认为这会发生。
我是Art Caplan，在纽约大学格罗斯曼医学院的医学伦理学系工作。谢谢观看。
(全文结束)
