卡罗琳·克劳斯对橡树岭一个讨论人工智能的独特项目进行了评述。
橡树岭可能是为数不多能够举办此类讨论并找到四位具备如此资历专家的地方之一。我觉得我们常常低估自己，倾向于忽视作为科学城、秘密城和原子城的特殊性，没有给予自己应有的肯定——我们是世界上少数几个常规进行科学发现和特殊话题对话的地方之一。
2月10日，橡树岭联合大学的波拉德技术会议中心举办了一场由科学家和公共政策专家参与的小组讨论，探讨了人工智能(AI)的潜在益处和危害。这场AI讨论会开启了"我们的美国根源"第四季，该活动由橡树岭早餐扶轮社和橡树岭持续学习研究所举办，旨在帮助不同文化与社区之间建立桥梁。
该节目"铁路、广播和人工智能"最初试图解决两个问题："AI的挑战和机遇与铁路和广播相比如何？我们可以从对过去颠覆性技术的了解中学到什么教训，以帮助我们为AI的使用及其后果做好准备？"
小组成员包括：橡树岭国家实验室主任斯蒂芬·斯特赖弗；田纳西大学名誉副校长、前白宫科学技术政策办公室首席副主管、前田纳西AI倡议创始人琳恩·帕克；田纳西大学名誉教授、霍华德·贝克公共政策与公共事务学院美国公民研究所副所长威廉·里昂斯；以及橡树岭联合大学研究与大学合作伙伴关系首席官阿什利·斯托。
小组主持人是K-25美国科学与能源博物馆和原子历史校园的执行董事艾伦·洛。他提供了有关美国铁路和广播历史的信息，并向小组提出了他的问题，随后还提出了观众的问题。
"AI会加剧财富不平等吗？"这是艾伦·洛选择向小组提出的第一张索引卡上的问题。
"是的，"斯蒂芬·斯特赖弗迅速回答道。"我们在知识产权技术中已经看到这一点。我们已经在一些AI公司中看到这种情况，这些公司的财富集中在少数人手中。基本上，这意味着有些人将获得巨大利益并变得富有，而有些人则不会。"
"这取决于企业或个人是否有能力将AI视为一个机遇，拥抱它、适应这项技术并利用它创造财富，或者远离它。"
"我认为我们每个人都有一个决定。我们将如何与AI互动？我们是学习以帮助我们增加财富的方式使用它，还是远离它？"
"我不认为你需要担心AI会取代你的工作，"琳恩·帕克说。"我认为你需要担心的是那些能很好使用AI的人会取代你的工作。所以，那些在工作中善于使用AI的人会比那些不善于使用AI而失去工作的人更富有。"
帕克表示算法正在改进，但"我们似乎到了一个临界点，更多的数据和更多的计算不再有帮助。我们在错误率和AI能够执行的任务长度上达到了饱和点。"
斯特赖弗说："这取决于企业或个人是否有能力将AI视为一个机遇，拥抱它、适应这项技术并利用它创造财富，或者远离它。"
洛提出了一个问题，涉及一份描述警察与少数族裔互动并包含种族歧视用语的手稿。手稿作者表示，AI对这份手稿的回应是"我无法帮助你"。因此，问题变成了："AI是否文化不敏感？"以及"它是否以这种方式学会了不敏感？"
"AI只是一个统计过程，"斯特赖弗说。"因此，不幸的是，如果你在构建模型和解释算法时不够谨慎，AI所训练的所有文本都会反映在其回应中。"
"公司努力设置防护栏。公司测试他们的算法和模型，以确保它们不会给出不适当的回应。事实证明，这些防护栏很容易出错。我们必须认识到，AI的好坏取决于它所训练的数据。"
据帕克介绍，为了解决AI回应中出现的文化问题和偏见，公司雇佣了不同种族和背景的人类来查看AI模型的输出并提供反馈。
"这是一个强化学习过程，告诉公司AI的回应是不适当的答案，"她说。"这是你获得AI系统回应的文化可接受性的一种方式，这是仅从数据学习无法获得的。这是一个巨大的过程。"
"这很有争议，因为AI公司使用的很多人生活在工资不高的国家。公司很难让外国人从事低薪工作。"
由于AI工具可以准确诊断某些疾病，且美国面临64,000名初级保健医生的短缺，《纽约时报》和其他媒体的文章引用了一些人提出的解决方案：让医师助理和执业护士使用AI来诊断新患者，这些患者可能需要等待数周才能见到初级保健医生。这一信息构成了关于AI与医疗保健人员问题的基础。
帕克的回答聚焦于FDA批准的第一个用于医疗用途的AI。当初级保健医生告诉患者他们患有糖尿病并对视网膜病变有风险时，医生会建议患者预约眼科专家以确定是否出现眼疾症状。
"大多数患者不想再预约另一位医生，"帕克说。"所以，很少有糖尿病视网膜病变患者会去看眼科专家检查眼睛。"
"开发并批准了一种AI工具，帮助初级保健医生基于非常简单的视力检查，确定患者是否正在发展糖尿病视网膜病变。然后医生告诉患者测试显示他们正在发展糖尿病视网膜病变。"
医生随后告诉患者去看眼科专家进行综合检查和治疗计划，如激光手术。早期检测和治疗视网膜病变在预防视力丧失方面非常有效。
（注：早期开发用于诊断糖尿病视网膜病变和其他致盲眼病的AI工具的创建者之一是肯·托宾，他是橡树岭国家实验室的前研究员，也是阿什利·斯托在橡树岭联合大学的前任。该技术基于基于内容的图像检索和机器学习方法，以确定任何糖尿病患者的眼睛图像是否与历史患者数据库中的类似疾病模式匹配。这些方法可以高精度地检测和分级疾病。该技术已被CVS MinuteClinic和内分泌学家用于为数十万糖尿病患者提供挽救视力的远程医疗诊断。）
"这是一种改善医疗保健结果的方式，"帕克说。"这也是一种能够管理一些稀缺资源的方式，通过启用AI驱动工具来帮助进行一些基本诊断。"
威廉·里昂斯提出了一个问题：恶意AI怎么办？
"我们今晚没有讨论的一件事是代理式AI（agentic AI），"斯特赖弗说。AI聊天机器人对此的定义是："虽然传统AI（如标准聊天机器人）等待特定提示给出特定答案，但代理式AI被设计为充当'代理'。它不仅仅是对话；它会执行。它可以推理复杂目标，将其分解为步骤，并使用外部工具自主完成任务。"换句话说，它就是一个个人助理！
聊天机器人举了一个例子：你可以要求传统AI（聊天机器人）为巴黎写一份旅行行程，它会立即完成。而代理式AI（代理）可以提供更好的服务，响应这样的请求："找到去巴黎最便宜的航班，预订我预算内的酒店并将其添加到我的日历中。"
斯特赖弗还谈到了创造代理式AI的未来目标："下一个前沿是开始将基于AI的计算能力与能够与现实世界互动的机械实体结合起来。"
他举了漫威宇宙中的一个例子：一架AI驱动的飞机"决定所有人类都是邪恶的，所以我们即将与他们作战。"
洛随后提出了关于AI和未来的问题："前方有什么新事物吗？是量子计算吗？AI的最终目标是什么？50年后它将服务于什么目的？"
"AI背后的真实目标是创新和发现，"斯特赖弗回答。"如何更快地获得答案？个人如何做那些以前需要专家才能完成的事情？我认为这才是最终目标的一部分。"
斯特赖弗随后谈到了几个世纪以来科学的进步。"21世纪是生物学和医学的世纪，"他宣称。"20世纪是物理学的世纪，19世纪是化学的世纪。"
他建议，今天的革命更多发生在生物学和医学领域。"将有一个时刻，我们会回望并说那是我们理解生命本质的时刻，"他说。
此前，他曾提到生物医学研究的一项重大进展——类器官。它们是在体外由干细胞或患者来源的肿瘤细胞生长的微小、三维、微型和简化版本的器官。类器官对于了解疾病如何使人患病、测试药物以确定它们是否对人类有毒以及确定针对患者的疗法是否安全有效至关重要。
展望未来，斯特赖弗表示，生物医学研究人员可能学会如何培育人工大脑。
"如果你能以道德的方式培育一个智能大脑，你将拥有一个与在庞大数据集上运行的AI工具完全不同的命题，"他说。"我认为有机大脑的创造是我们必须在21世纪关注的事情。"
感谢卡罗琳的报道。AI讨论会的专家们对AI有着广泛的知识，你很好地捕捉到了这些内容。《历史视角》的读者们已经从本地区专家那里获得了关于AI的见解。只有在橡树岭才可能有这样的情形，因为我们有幸拥有这些专家生活在我们中间。
"我们的美国根源"年度节目继续为我们提供卓越的节目。期待未来更多。
D. Ray Smith是橡树岭市的历史学家。他的"历史视角"专栏每周在《橡树岭人报》上发表。
【全文结束】