"能做并不意味着应该做"(JBYCDMYS)是一句极具价值的育儿格言。无论是用来阻止幼儿拉猫尾巴，还是劝说23岁年轻人不要与昨晚在狂欢派对上认识的"灵魂伴侣"私奔，这句话都同样适用。
这句告诫的核心在于提出"是的，但之后呢？"和"你的行为会带来什么后果？"等问题。你可以拉汤米的尾巴，但他会抓伤你，而且会很疼。你想要这样吗？你可以嫁给那个狂欢者，但……你应该明白我的意思。
然而，在育儿圈之外，这句话往往在为时已晚时才被说出——当谚语中的火车已经离站，它更多是对错误决定的评述，而非真正的建议。
某些形式和应用的人工智能也可能面临这种情况。Sora生成的视频令人恐惧；现在你可以制作显示几乎任何人说出你想让他们说的话的视频。虽然这是技术实力的精彩展示，但对一个至今依赖开放交流的社会而言，其影响是巨大的。对于依赖可信来源提供准确信息的医疗营销人员来说，这简直就是生死攸关的问题。现在任何人都可以制作无法被识别为深度伪造的深度伪造内容。
"能做并不意味着应该做"的另一个例子是一些技术，这些技术现在能让呼叫中心立即识别出谁在打电话以及他们过去的行为。这带有一定的极权主义色彩，就像强化版的来电显示。
某些助推技术也是如此。虽然助推的最终好处可能是让患者遵守处方或提醒他们检查血压，但将所有这些数据与姓名、地址和社会安全号码结合在一起的能力，无疑是黑客梦寐以求的。
幸运的是，房间里有足够的成年人开始在事情发生前（而非之后）挥舞"能做并不意味着应该做"的旗帜。本周，800位背景迥异的人士（包括史蒂夫·班农和凯特·布什；梅根·马克尔；一位前国家安全顾问和一位前参谋长联席会议主席；格伦·贝克；一位教皇顾问；山姆·阿尔特曼；史蒂夫·沃兹尼亚克；理查德·布兰森）签署了一封信，呼吁计算机科学界暂停"超级智能"的创建——即比大多数人类更聪明的计算机系统。
这份简短声明发表在生命未来研究所(TFLI)网站上，内容为："我们呼吁禁止开发超级智能，在以下条件满足前不得解除禁令：1. 科学界广泛共识认为开发将安全可控；2. 公众强烈支持。"
请注意，该声明针对的不是人工智能，而是超级智能——维基百科将其定义为"一种假设形式的智能，在几乎所有认知领域（包括科学研究、社交技能和问题解决）都超越最优秀人类大脑的能力"。换句话说，已经存在的人工智能可以做我们大多数人能做的大部分事情，而尚未存在的超级智能则能做我们大多数人无法做到的事情。
有充分理由希望超级智能存在。例如，治愈各种癌症的方法、针对一系列医疗疾病的超个性化治疗方案（全部通过新疗法治愈），或许还有超越人类智慧的结束战争的方法。
但每一项承载如此多希望的重大技术或科学进步，似乎总能找到最卑劣的应用方式。原子能委员会主席刘易斯·斯特劳斯在1949年表示，原子反应堆将提供"廉价到无需计量"的能源，为从汽车到飞机的一切提供动力。互联网本应成为一个将我们所有人聚集在一起的全球篝火——一位1990年代的观察家将其发展比作"人类找到神经系统"。然而，就在数字色情（Statista数据显示占所有移动搜索的20%）和赌博（另占20%）变得无处不在之前。人工智能本应通过为我们每个人提供处理日常任务的数字助理，让我们都更具生产力，从而达到新的高度。然而，就在高中生意识到多亏了人工智能，他们再也不用写论文，以及亚马逊找到用机器人取代50万名人类员工的方法之前。
在曼哈顿计划负责人J·罗伯特·奥本海默开发的原子弹投在日本九年后，他在一次联邦安全听证会上表示："当你看到某样技术上很'甜蜜'的东西时，你会继续去做，只有在取得技术成功后，你才会争论该如何处理它。"
这种思维方式正是那800位联署者（包括被认为是AI教父的杰弗里·辛顿和约书亚·本吉奥）呼吁"能做并不意味着应该做"暂停行动的背后原因。在似乎正全速冲刺、争相开发超级智能的军备竞赛中，很少有开发者会思考接下来会发生什么，他们只想着要成为第一个冲过终点线的人。抢占市场意味着数十亿美元。
那么，这对医疗营销人员意味着什么？从宏观角度看，著有《大错特错：诊断和治疗医疗保健中的错误信息疾病》一书的吉塔·尼亚尔博士——她是多家医疗保健公司临床顾问、乔治华盛顿大学医学院助理临床教授、前赛富时首席医疗官——提出了一种双管齐下的解决方案。一方面，她说，我们不能停止开发和学习；另一方面，我们需要弄清楚如何合乎伦理地部署新技术，并如TFLI签署者所建议的那样，获得广泛利益相关方联盟的共识。
"作为一名学者和医学博士，我从不相信停止研究某样东西是正确的，"她说。"你要从头到尾彻底研究它。我们需要学习、学习、再学习关于它的所有知识。因此，停止研究它不是正确的答案。如果我们停止研究，今天我们所知道的一半事情都不会知道。"
"同时，作为行业，我们需要并行花更多时间在这些工具的正确使用上，在如何合乎伦理地使用它们使事物更快、更好、更便宜上。我们需要考虑医疗团体怎么想？付款方怎么想？患者怎么想？"
她表示，对医疗营销人员而言，日常的具体应用是回归人性。"这是AI向超级智能演进的一个有趣转折点，"她谈到AI向超级智能的演进时说。"现在正是认识到真实和人性价值的好时机。因为归根结底，如果我的聊天机器人要和你的聊天机器人对话，如果一切都是化身，人们将真正渴望真实性和作为人类的意义。"
这正是我们所有人都能且应该做的事情。
【全文结束】
