埃隆·马斯克的AI聊天机器人Grok因其在医疗领域的创新但有争议的应用而受到了广泛关注。用户在X平台（前身为Twitter）上通过上传敏感的医疗图像（如X光片、MRI和CT扫描）来测试其诊断能力。作为X平台的所有者，马斯克鼓励这种做法，并强调虽然Grok目前仍处于早期阶段，但它在诊断医疗状况方面显示出了潜力。通过众包数据来改进Grok的诊断能力，这一想法有望通过提供更快的结果和第二意见来革新患者护理。然而，这一举措也引发了关于医疗准确性、用户隐私和伦理问题的重大关切。
Grok如何在医疗领域工作？
马斯克将Grok描述为一种能够分析医疗图像并提供见解的工具，声称它“已经相当准确”，并且有快速改进的潜力。据《纽约时报》报道，用户已经在各种病例上测试了Grok，从脑肿瘤到骨折。虽然有些结果是准确的，但其他结果却存在显著错误。
例如，一位用户称赞Grok对脑肿瘤的分析，而另一位用户则报告称它将锁骨骨折误诊为肩关节脱位。医疗专业人员也测试了该AI，有些人好奇它是否能确认他们的诊断。然而，专家们强调，Grok的混合结果突显了将通用AI应用于医疗诊断的复杂性。
隐私问题：你在Grok上分享的数据会发生什么？
上传医疗信息到Grok引起了隐私专家的警觉，他们指出，与医疗机构不同，像X这样的平台不受严格的《健康保险可携带性和责任法案》（HIPAA）等数据保护法律的约束。HIPAA确保敏感的健康信息不会在未经用户同意的情况下被共享，但它仅适用于特定实体，如医院和保险公司。
X的隐私政策声明，虽然它不会将用户数据出售给第三方，但会与“相关公司”共享信息。这引发了关于Grok如何处理医疗数据的担忧，因为个人健康信息可能会被用于非预期目的，包括定向营销。专家警告说，即使是看似匿名的数据，如表明阿尔茨海默病早期迹象的PET扫描，也可能成为一个人的数字足迹的一部分，使他们面临就业或保险歧视的风险。
误诊的风险
不准确的AI诊断可能导致严重后果，从不必要的医疗检查到错过关键病情。例如，一位医生报告称Grok未能识别出一例教科书式的脊柱结核病例。这些错误突显了开发可靠AI工具所需的强大数据集和医学专业知识的重要性。
约翰霍普金斯大学机器学习和医疗实验室主任Suchi Saria博士警告说，在没有适当验证的情况下依赖实验性工具是危险的。她将其比作一个业余化学家在没有正式培训的情况下进行实验。尽管AI在医疗领域具有潜力——例如在乳腺癌筛查中检测癌症或分析临床试验中的患者数据——但它需要严格的测试和监督以确保可靠性。
信息利他主义还是风险？
尽管存在风险，一些用户愿意分享他们的数据，相信AI在推进医疗方面的潜力。专家将这种做法称为“信息利他主义”，即个人贡献个人数据以支持更广泛的技术进步。然而，这种方法要求用户权衡收益与风险，尤其是在保护措施有限的情况下。
宾夕法尼亚大学医学伦理助理教授Matthew McCoy建议谨慎行事，指出虽然Grok可能有一些防护措施，但这些措施尚未公开披露。他补充说，人们在分享敏感数据之前应仔细考虑，因为长期影响尚不确定。
AI在医疗领域的未来
马斯克对Grok的愿景是将AI整合到医疗领域这一更大趋势的一部分。虽然专门的AI工具已经在放射学等领域取得了进展，但Grok依靠用户生成数据的方法代表了与传统方法的重大偏离。批评者认为，这种方法缺乏确保准确性和隐私所需的保障措施。
为了在医疗领域取得成功，AI必须优先考虑透明度、道德实施和安全系统。《遗传信息无歧视法》和《美国残疾人法》提供了一些保护，但在某些领域（如人寿保险）仍然存在漏洞。
(全文结束)
