脑解码设备是否威胁人们的隐私
伦理学家表示，人工智能驱动的进步将威胁使用神经技术人士的自主权
利亚姆·德鲁（Liam Drew），《自然》杂志
更新于2025年11月22日 星期六 21:00（北京时间）
12分钟阅读
在2008年一场车祸导致南希·史密斯（Nancy Smith）颈部以下瘫痪之前，她喜欢弹钢琴。几年后，多亏一种能记录和分析她大脑活动的植入物，史密斯再次开始演奏音乐。当她想象弹奏屏幕上的键盘时，她的脑机接口（BCI）将她的思想转化为按键——简单的旋律，如《一闪一闪小星星》，随之响起。
但这里有个转折。对史密斯来说，钢琴似乎自己在弹奏。"感觉就像琴键自动按下，而我并没有在想这件事，"她当时说。"它似乎知道曲调，并自己完成了演奏。"
史密斯的BCI系统作为临床试验的一部分被植入，该系统在她想象弹奏键盘时学习她的脑信号。试验负责人、加州理工学院帕萨迪纳分校的神经科学家理查德·安德森（Richard Andersen）表示，这种学习使系统能够在她有意识尝试弹奏前数百毫秒检测到她的意图。
在过去二十年中，史密斯是约90名将BCI植入以控制辅助技术（如计算机、机械臂或合成语音生成器）的人士之一。这些志愿者——因脊髓损伤、中风或运动神经元疾病（肌萎缩侧索硬化症）等神经肌肉障碍而瘫痪——展示了如何将大脑运动皮层记录的肌肉控制信号解码为连接设备的指令。
但史密斯（2023年死于癌症）是首批在顶叶后皮层植入额外接口的志愿者之一，该脑区与推理、注意力和规划相关。安德森和他的团队认为，通过同时捕获用户的意图和预运动规划，这种"双植入"BCI将提高假肢设备的性能。
安德森的研究还展示了访问运动皮层以外区域的BCI的潜力。"令人惊讶的是，当我们进入顶叶后皮层时，我们能获得来自大量区域混合在一起的信号，"安德森说。"我们可以解码各种各样的事物。"
这些设备访问个人内心生活（包括潜意识思维）各个方面的能力，提高了关于如何保护神经数据隐私的担忧。它还提出了关于神经技术如何塑造人们的思维和行动的伦理问题——尤其是当与人工智能配对时。
同时，人工智能正在增强可穿戴消费产品的功能，这些产品记录来自大脑外部的信号。伦理学家担心，在缺乏监管的情况下，这些设备可能让科技公司获取有关人们对在线和其他内容内部反应的新且更精确的数据。
伦理学家和BCI开发者现在正在探讨如何处理和使用此前无法访问的信息。"全脑接口将是未来，"纽约市BCI公司Synchron的首席执行官汤姆·奥克斯利（Tom Oxley）说。他预测，治疗精神疾病和其他脑部疾病的需求将促使探索更多脑区。在此过程中，他表示，人工智能将继续提高解码能力，并改变这些系统服务用户的方式。"这引出了最终问题：我们如何确保安全？"
消费者担忧
消费级神经技术产品捕获的数据不如植入式BCI复杂。与依赖特定神经元集合放电的植入式BCI不同，大多数消费产品依赖脑电图（EEG）。这测量了来自大量神经元群体平均放电的电活动涟漪，可在头皮上检测到。消费设备并非为捕捉最佳记录而设计，而是注重时尚（如流线型头带）或不显眼（电极隐藏在增强或虚拟现实耳机或头显内）。
尽管如此，EEG仍能揭示整体脑状态，如警觉性、专注度、疲劳和焦虑水平。公司已经提供耳机和软件，为客户实时评分这些状态，旨在帮助他们提高运动表现、更有效冥想或提高生产力。
"我们已经使EEG不再像过去那样糟糕，"波士顿神经技术公司Neurable的首席执行官拉姆塞斯·阿尔卡德（Ramses Alcaide）解释说，该公司专门从事EEG信号处理，并为此目的销售基于耳机的头显。"现在，它基本上可以在真实环境使用。"
人们广泛预期人工智能将允许解码用户心理过程的更多方面。例如，德国慕尼黑工业大学的神经伦理学家马尔塞洛·伊恩卡（Marcello Ienca）表示，EEG可以检测到人在感知刺激后数百毫秒内大脑发生的小电压变化。这些信号可能揭示他们的注意力和决策如何与该特定刺激相关。
尽管准确的用户数量难以收集，但已有成千上万的爱好者在使用神经技术耳机。伦理学家表示，一家大型科技公司可能会突然将这些设备推向广泛使用。例如，苹果公司在2023年为其AirPods无线耳机申请了未来使用的EEG传感器设计专利。
然而，与受医疗法规和隐私保护约束的临床BCI不同，消费级BCI领域几乎没有法律监督，牛津大学伦理学家大卫·莱雷斯基（David Lyreskog）说。"在监管标准方面，这里就像狂野西部，"他说。
2018年，伊恩卡和他的同事发现，大多数消费BCI不使用安全的数据共享渠道或实施最先进的隐私技术。"我相信这没有改变，"伊恩卡说。此外，纽约市非营利组织Neurorights Foundation在2024年对30家消费神经技术公司的数据政策分析显示，几乎所有公司都对用户提供的数据拥有完全控制权。这意味着大多数公司可以随意使用这些信息，包括出售。
针对这些担忧，智利政府和美国四个州的立法者通过了法律，赋予任何形式神经活动直接记录受保护地位。但伊恩卡和杜克大学伦理学家尼塔·法拉哈尼（Nita Farahany）担心，这些法律不够充分，因为它们关注原始数据，而不是公司通过将神经信息与并行数字数据流结合可以做出的推断。关于个人心理健康或政治倾向的推断仍可能被出售给第三方，并用于歧视或操纵个人。
"在我看来，数据经济已经相当侵犯隐私和认知自由，"伊恩卡说。添加神经数据，他说，"就像给现有数据经济注射类固醇。"
几个关键国际机构，包括联合国教科文组织和经济合作与发展组织，已就这些问题发布指南。此外，今年9月，三名美国参议员提出一项法案，要求联邦贸易委员会审查如何保护神经技术数据。
迈向临床
尽管开发进展迅速，但迄今为止尚无植入式BCI获得常规临床使用批准。Synchron的设备最接近临床应用。这种相对简单的BCI允许用户通过想象移动脚来选择屏幕选项。由于它被插入运动皮层表面的血管中，因此不需要神经外科手术。它在初步试验中被证明安全、可靠且有效，奥克斯利表示Synchron正在与美国食品药品监督管理局讨论关键试验，可能导致临床批准。
埃隆·马斯克位于加利福尼亚州弗里蒙特的神经科技公司Neuralink已在至少13名志愿者的运动皮层中手术植入其更复杂的设备，例如，他们用它来玩电脑游戏和控制机械手。公司代表表示，已有超过10,000人加入其临床试验的等待名单。
在过去两年中，至少还有五家BCI公司首次在人类身上测试其设备，在接受神经外科手术的人身上进行短期记录（时间范围从几分钟到几周）。该领域的研究人员认为，首批批准可能会用于运动皮层中的设备，以恢复严重瘫痪人士的独立性——包括通过合成语音技术实现语音的BCI。
至于下一步，法拉哈尼表示，超越运动皮层是BCI开发者的普遍目标。"他们都希望在大脑中回溯更远的时间，"她说，"并获得思维的潜意识前体。"
去年，安德森团队发表了一项概念验证研究，从两名参与者的顶叶皮层解码内部对话，尽管词汇量极其有限。该团队还在BCI用户玩二十一点（pontoon）纸牌游戏时从顶叶皮层记录。某些神经元对牌面值做出反应，而其他神经元跟踪玩家手牌的累计总数。有些甚至在玩家决定是否坚持当前手牌或再拿一张牌时变得活跃。
奥克斯利和总部位于德克萨斯州奥斯汀的BCI公司Paradromics的首席执行官马特·安格尔（Matt Angle）都认为，运动皮层以外脑区的BCI可能有一天有助于诊断和治疗精神疾病。洛杉矶南加州大学的工程师和计算机科学家玛丽亚姆·沙内奇（Maryam Shanechi）正朝着这个目标努力——部分旨在识别和监测精神疾病的神经特征及其症状。
BCI可能在个人中跟踪这些症状，传递调整神经活动的刺激，并量化大脑对这种刺激或其他干预的反应。"这种反馈很重要，因为你希望精确地根据个人自身需求定制治疗，"沙内奇说。
沙内奇还不知道精神疾病症状的神经相关物是否可以在多个脑区追踪，或者是否需要从特定脑区记录。无论哪种方式，她工作的核心方面是构建大脑活动的基础模型。这些模型通过在数千小时来自众多人的神经数据上训练AI算法构建，理论上可以在个体大脑之间通用。
Synchron也在利用AI的学习潜力构建基础模型，与加利福尼亚州圣克拉拉的AI和芯片公司NVIDIA合作。奥克斯利表示，这些模型正在揭示运动皮层中被认为噪声中的意外信号。"我们应用深度学习技术越多，"他说，"我们就越能分离信号和噪声。但事实上，这不是信号与噪声，而是信号与信号。"
奥克斯利预测，BCI数据与多模态数字数据流集成将越来越能够推断人们的内心生活。评估这些数据后，BCI可以以可能影响思维和行为的方式对思想和欲望——可能是潜意识的——做出反应。
沙内奇持怀疑态度。"这不是魔法，"她说，强调BCI可以检测和解码的内容受到训练数据的限制，而训练数据难以获取。
人工智能中的"我"
在未发表的工作中，Synchron的研究人员发现，与安德森团队一样，他们可以在人工智能的帮助下解码一种潜意识思维。在这种情况下，这是一种用户选择意外屏幕选项前发生的错误信号。也就是说，BCI在用户意识到错误前稍早识别出他们犯了错误。奥克斯利表示，公司现在必须决定如何使用这一见解。
"如果系统知道你刚犯了错误，那么它可以以预测你下一步行动的方式行事，"他说。他表示，自动纠正错误会提高性能，但会代表用户采取行动。
虽然这对于从运动皮层记录的BCI可能没有争议，但对于推断个人思维其他方面的BCI呢？奥克斯利问："是否会有用户启用代表他们行事的功能而未经他们同意的时刻？"
安格尔表示，人工智能的添加引入了一个"有趣的调节器"，允许BCI用户在自主权和速度之间权衡。当用户放弃一些控制时，例如当脑数据有限或模糊时，"人们会感到行动是脱离身体的，还是他们只是开始觉得这本来就是他们想要的？"安格尔问道。
法拉哈尼指出Neuralink将其BCI与AI聊天机器人Grok结合使用，作为人机之间潜在模糊界限的早期例子。一名非语言研究志愿者可以在其BCI和Grok的帮助下以典型的会话速度生成合成语音。聊天机器人建议并起草回复，有助于加快沟通。
尽管现在许多人使用AI起草电子邮件和其他回复，但法拉哈尼怀疑，介导个人每次沟通的BCI嵌入式AI聊天机器人可能会对用户最终说的话产生巨大影响。如果AI对意图或潜意识想法采取行动，这种效果将会放大。她认为，具有内置设计特征和偏见的聊天机器人将塑造一个人的思维方式。"你表达的东西，你融入你的身份，它无意识地塑造你是谁，"她说。
法拉哈尼和她的同事在7月的一篇预印本中主张一种新的BCI监管形式，赋予实验和消费空间的开发者对用户产品的法律受托责任。就像律师与其客户，或医生与其患者一样，BCI开发者有责任为用户的最佳利益行事。
她说，之前关于神经技术的思考主要集中在保持用户的脑数据私密，以防止第三方访问敏感个人信息。展望未来，问题将更多地涉及AI赋能的BCI系统如何完全符合用户的最佳利益。
"如果你关心精神隐私，你应该非常关心设备输出数据后发生的事情，"她说，"我认为我现在更担心设备上发生的事情。"
本文经许可转载，最初于2025年11月19日发表。
【全文结束】
