AI健康工具激增,安全性和可靠性引发担忧:来自《麻省理工科技评论》的见解
人工智能正迅速渗透医疗领域,微软、亚马逊、OpenAI等科技巨头纷纷推出医疗聊天工具,用户可借此获取健康建议。然而,据《麻省理工科技评论》报道,这些系统的可靠性及安全性正引发广泛担忧。尽管大语言模型进步显著,但独立评估显示,AI在分诊、诊断等方面仍存在偏差,可能过度推荐轻症护理或漏判紧急情况。专家强调,目前多数AI健康工具仍由开发公司自行评估,缺乏透明度和第三方测试,用户与系统的交互方式也可能影响建议质量。业界一致认为,AI在改善医疗信息获取方面潜力巨大,但需建立更严格的测试与保障机制,才能广泛用于诊断和治疗。

