科学网—读心设备现已能预测前意识想法
精选
已有 223 次阅读
2025-11-20 19:03
| 系统分类: 海外观察
读心设备现已能预测前意识想法：是时候担忧了吗？
伦理学家指出，借助人工智能的技术突破将威胁到神经技术使用者的隐私与自主选择权。
插图：奥利 ·赫斯特（Ollie Hirst）
2008年的一场车祸导致南希·史密斯（Nancy Smith）颈部以下瘫痪，而在此之前，她一直热爱弹钢琴。多年后，依靠一款可记录并分析大脑活动的植入设备，史密斯重新开始了音乐创作。当她在脑海中想象弹奏屏幕上的虚拟键盘时，其脑机接口（brain–computer interface, BCI）会将她的想法转化为按键指令——随后《一闪一闪亮晶晶》等简单旋律便随之响起¹。
但过程中出现了一个意外情况：在史密斯看来，钢琴仿佛在自行演奏。 “感觉琴键不用我刻意思考就自动按下了，”她当时表示，“这套系统好像早就知道旋律，能自己完成演奏一样。”
史密斯植入的脑机接口系统是某项临床试验的一部分。试验负责人、美国帕萨迪纳市加州理工学院的神经科学家理查德 ·安德森（Richard Andersen）称，在史密斯想象弹琴的过程中，该系统一直在学习她的脑信号。这种学习能力使系统能在她产生明确弹奏意识的数百毫秒前，就捕捉到她的演奏意图。
过去 20年间，约有90人通过植入脑机接口来操控计算机、机械臂或人工发声器等辅助设备，史密斯便是其中之一。这些志愿者均因脊髓损伤、中风或肌萎缩侧索硬化症（运动神经元疾病）等神经肌肉疾病而瘫痪。他们的案例证明，当人们想象肢体动作时，大脑运动皮层会产生控制肌肉的指令信号，这类信号可被解码，进而转化为外接设备的操控指令。
2023年，史密斯因癌症离世。她还是首批在顶叶后部（posterior parietal cortex）植入额外接口的志愿者之一——顶叶后部是大脑中与推理、注意力及行动规划相关的区域。安德森及其团队认为，这种“双植入式”脑机接口若能同时捕捉使用者的行为意图与运动前规划，将显著提升假肢设备的性能。
南希 ·史密斯在车祸导致颈部以下瘫痪后，借助脑机接口重新进行音乐创作。图片来源：加州理工学院（Caltech）
安德森的研究还展现了脑机接口探索运动皮层以外大脑区域的潜力。 “令人意外的是，当我们监测顶叶后部时，能接收到来自大脑多个区域的混合信号，”安德森表示，“通过这些信号，我们可以解码出种类繁多的信息。”
这类设备能够触及人类内心深处的活动（包括前意识想法），这使得 “如何保护神经数据隐私”的担忧愈发紧迫，同时也引发了伦理争议：神经技术可能会影响人类的思想与行为——尤其是当它与人工智能结合时，争议更显突出。
与此同时，人工智能正不断提升可记录大脑外部信号的穿戴式消费级产品的性能。伦理学家担忧，若缺乏监管，科技公司或将通过这些设备获取人们对网络及各类内容的内在反应数据 ——这类全新数据会更为精准，存在极大隐私泄露风险。
如今，伦理学家与脑机接口研发人员正迫切探讨：应如何处理和运用这些以往难以获取的信息？纽约脑机接口企业赛克伦（ Synchron）的首席执行官汤姆·奥克斯利（Tom Oxley）表示：“全脑接口将是未来的发展方向。”他预测，出于治疗精神疾病及其他脑部病症的需求，人类将对更多大脑区域展开探索。“在此过程中，人工智能会持续优化信号解码能力，并改变这类系统服务用户的方式，”他补充道，“最终我们会面临一个核心问题：如何确保这项技术的安全性？”
消费级产品引发的担忧
消费级神经科技产品采集的数据精度远不及植入式脑机接口。植入式脑机接口依靠特定神经元集群的放电信号工作，而多数消费级产品采用脑电图（ electroencephalography, EEG）技术——该技术通过监测头皮电位变化，捕捉大量神经元同步放电产生的微弱脑电波。消费级设备的设计核心并非追求极致的信号采集效果，而是注重外观时尚（如设计成简约头带）或隐蔽性（将电极隐藏在耳机中，或集成到增强现实/虚拟现实设备的头显内）。
尽管如此，脑电图技术仍能反映大脑的整体状态，例如清醒度、专注力、疲劳度及焦虑程度等。目前已有企业推出相关头显设备与配套软件，可为用户实时提供这些状态的量化评分，旨在帮助用户提升运动表现、优化冥想效果或提高工作效率等。
马萨诸塞州波士顿市的神经科技企业纽若博（ Neurable）专注于脑电图信号处理，还推出了一款耳机式头显设备。该公司首席执行官拉姆塞斯·阿尔凯德（Ramses Alcaide）解释道，以往这类设备采集的信号干扰大、质量差，而人工智能已能将这些劣质信号转化为可靠数据。“我们的技术改进让脑电图不再像以前那样不尽如人意，”阿尔凯德表示，“如今它基本能适配各类实际生活场景。”
业内普遍预计，人工智能还将进一步实现对人类更多心理活动的解码。例如，德国慕尼黑工业大学的神经伦理学家马塞洛 ·延卡（Marcello Ienca）指出，人类感知外界刺激后的数百毫秒内，大脑会产生微小电位变化，而脑电图技术可捕捉到这些变化。通过分析这类信号，能了解人类的注意力分配及决策过程与特定刺激之间的关联。
目前虽难以统计确切用户数量，但已有数千名爱好者在使用这类神经科技头显设备。伦理学家表示，一旦科技巨头介入推广，这类设备可能会迅速普及。例如，苹果公司（ Apple）于2023年为脑电图传感器相关设计申请了专利，未来有望将其应用于旗下AirPods无线耳机。
英国牛津大学的伦理学家戴维 ·莱雷斯科（David Lyreskog）指出，用于临床的脑机接口受医疗法规约束且有隐私保护机制，而消费级脑机接口领域几乎处于法律监管空白状态。“该领域的监管现状如同‘野蛮西部’，毫无规范可言。”
2018年，延卡及其同事发现，多数消费级脑机接口既未采用安全的数据传输通道，也未配备顶尖的隐私保护技术²。“我认为如今这一状况仍未改变，”延卡表示。此外，纽约非营利组织“神经权利基金会”（Neurorights Foundation）2024年对30家消费级神经科技企业的数据政策展开分析³，结果显示这些企业几乎完全掌控着用户提交的所有数据——这意味着多数企业可随意处置这些数据，包括将其出售。
为应对这些担忧，智利政府及美国 4个州已出台法律，将各类神经活动的原始记录纳入受保护范畴。但延卡与美国北卡罗来纳州杜克大学的伦理学家妮塔·法拉哈尼（Nita Farahany）均认为，这类法律存在缺陷：它们仅针对原始数据进行保护，却忽视了企业可能将神经数据与其他数字数据结合分析后得出的“推断结论”。例如，通过数据分析得出的用户心理健康状况、政治倾向等信息，仍可能被出售给第三方，进而成为歧视或操控他人的工具。
“在我看来，当前的数据经济本就频繁侵犯个人隐私与认知自由，”延卡表示，而神经数据的加入，“无异于给现有数据经济‘注入强心剂’，使其危害进一步加剧。”
目前，联合国教科文组织（ UNESCO）、经济合作与发展组织（OECD）等多个国际核心机构已针对相关问题发布指导方针。此外，美国3名参议员于今年9月提出一项法案，要求联邦贸易委员会（Federal Trade Commission）专项研究神经科技数据的保护方案。
迈向临床应用
尽管脑机接口技术发展迅速，但截至目前，尚无任何一款植入式脑机接口获得 “临床广泛应用”的批准。赛克伦公司的设备是目前最接近临床应用阶段的产品：这款设计相对简易的脑机接口，可让用户通过想象“动脚”来选中屏幕上的选项。由于它是通过运动皮层表面的血管植入，无需进行开颅手术。初期临床试验已证实其安全、可靠且有效⁴，奥克斯利透露，赛克伦正与美国食品药品监督管理局（FDA）协商开展关键临床试验，若试验顺利，该设备有望获得临床应用许可。
美国加利福尼亚州弗里蒙特市的神经科技企业 “神经连接”（Neuralink，由埃隆·马斯克创办）已为至少13名志愿者进行了植入手术。该公司研发的脑机接口结构更为复杂，植入在志愿者的运动皮层。目前这些志愿者已能用该设备玩电脑游戏、操控机械手臂等。企业代表称，已有超过1万人报名等待参与其临床试验。
过去两年间，至少另有 5家脑机接口企业首次开展人体试验：它们在患者接受神经外科手术期间，完成了时长从数分钟到数周不等的短期信号采集。该领域研究人员表示，首批获得临床批准的脑机接口很可能是针对运动皮层的设备，其核心功能是帮助重度瘫痪患者重获生活自理能力——包括借助人工发声技术实现语言交流的脑机接口。
至于未来的发展方向，法拉哈尼指出， “突破运动皮层的局限”是脑机接口研发领域的共同目标。“所有研发人员都希望能更早捕捉到大脑信号，”她说，“进而解码出思维形成前的潜意识活动。”
去年，安德森团队发布了一项概念验证研究 ⁵：他们成功从两名受试者的顶叶皮层信号中解码出内心独白，不过可识别的词汇量极为有限。该团队还记录了脑机接口使用者玩21点纸牌游戏（blackjack，又称pontoon）时顶叶皮层的活动情况⁶：部分神经元会对纸牌点数产生反应，另有部分神经元负责追踪玩家手中牌面的累计点数；当玩家决定“停牌”或“补牌”时，还有一些神经元会被激活。
凯西 ·哈雷尔（与妻子莱瓦娜·萨克森一同）借助脑部植入设备生成人工语音。图片来源：伊恩·贝茨/《纽约时报》/Redux/eyevine
奥克斯利与得克萨斯州奥斯汀市脑机接口企业 Paradromics的首席执行官马特·安格尔（Matt Angle）一致认为，未来针对运动皮层以外大脑区域的脑机接口，或有望助力精神疾病的诊断与治疗。洛杉矶南加州大学的工程师兼计算机科学家玛丽亚姆·沙内希（Maryam Shanechi）正致力于这一目标——部分工作聚焦于识别并监测精神疾病及其症状的神经特征⁷。
脑机接口未来或可实现三大功能：追踪患者的精神疾病症状、通过刺激调节神经活动、量化大脑对该刺激或其他干预手段的反应。 “这种反馈至关重要，因为你需要根据患者的个体需求精准定制治疗方案，”沙内希表示。
目前沙内希尚未明确：精神疾病症状的神经关联信号是否需通过多个脑区监测，还是仅需记录特定脑区活动即可。但无论如何，她工作的核心方向之一是构建大脑活动的基础模型（ foundation models）。这类模型通过让人工智能算法学习来自大量人群的数千小时神经数据构建而成，理论上可适用于不同个体的大脑。
赛克伦公司也在利用人工智能的学习潜力构建基础模型，且正与加利福尼亚州圣克拉拉市的人工智能及芯片企业英伟达（ NVIDIA）展开合作。奥克斯利表示，这些模型在以往被认为是“噪音”的运动皮层信号中，发现了此前未被察觉的有效信号。“我们应用的深度学习技术越深入，”他说，“就越能从‘噪音’中分离出有效信号——但实际上，这并非‘从噪音中提取信号’，而是‘从复杂信号中识别出目标信号’。”
奥克斯利预测，脑机接口数据与多模态数字数据流的结合，将能更精准地推断人类的内心活动。对这些数据进行分析后，脑机接口可对人类的想法（甚至可能是潜意识想法）与需求做出反应，进而可能潜移默化地影响人的思维与行为。
沙内希对此持怀疑态度。 “这并非魔法，”她强调，脑机接口的检测与解码能力受限于训练数据，而这类数据的获取本身就极具挑战性。
人工智能中的 “智能”（The I in AI）
在一项未发表的研究中，赛克伦公司的研究人员发现，与安德森团队类似，他们也能在人工智能的帮助下解码一种前意识想法 ——具体而言，是用户即将选择错误屏幕选项前产生的“错误信号”。也就是说，脑机接口能在用户意识到自己犯错前的瞬间，识别出这一失误。奥克斯利表示，公司目前需确定如何运用这一发现。
“若系统察觉你即将犯错，就能提前预判你的下一步操作并做出反应，”他说。自动纠错虽能提升操作效率，但前提是系统需代表用户主动采取行动。
对于记录运动皮层信号的脑机接口而言，这种自动纠错功能或许争议不大；但若是能推断人类其他思维活动的脑机接口呢？奥克斯利提出疑问： “是否存在这样一种情况——用户未明确同意，系统却自行启用某项功能代其行动？”
安格尔认为，人工智能的加入为脑机接口使用者带来了一个 “有趣的权衡选项”：在自主性（agency）与操作效率之间做选择。当用户主动移交部分控制权时（例如脑信号微弱或模糊不清时），“人们会觉得这种操作‘脱离自身掌控’，还是会逐渐认为‘这正是自己原本想要的结果’？”安格尔问道。
法拉哈尼指出，神经连接公司将人工智能聊天机器人 Grok与自家脑机接口结合使用的案例，正是“人与机器边界可能模糊”的早期例证。一名无法说话的研究志愿者，借助脑机接口与Grok的配合，已能以正常对话速度生成人工语音——Grok会建议并草拟回复内容，从而加快沟通效率。
尽管如今许多人会用人工智能起草邮件或其他回复，但法拉哈尼担忧，若脑机接口中嵌入的人工智能聊天机器人需 “介导人类所有交流”，它对用户最终表达内容的影响可能会远超预期。若人工智能还能对人类的意图或前意识想法做出反应，这种影响将进一步放大。她认为，聊天机器人自身的设计特征与潜在偏见，会逐渐塑造人类的思维方式。“你所表达的内容会融入自我认同，进而在潜意识中影响你的自我认知，”她说。
在 2024年7月发布的一篇预印本论文⁸中，法拉哈尼及其同事提出，需针对脑机接口建立一种全新的监管模式：要求实验性与消费级脑机接口的开发者，对产品用户承担法定受信义务（fiduciary duty）。这意味着，脑机接口开发者需像律师对客户、医生对患者那样，依法以用户的最大利益为出发点采取行动。
法拉哈尼表示，以往对神经技术的关注，主要集中在保护用户的脑部数据隐私、防止第三方获取敏感个人信息上。而未来，核心问题将转变为：如何确保搭载人工智能的脑机接口系统，在运行全过程中始终与用户的最大利益保持一致。
“若你关注心理隐私，就应高度重视数据离开设备后的流向，”她说，“但现在，我更担忧的是数据在设备内部的处理过程。”
转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。 链接地址： https://blog.sciencenet.cn/blog-41174-1511067.html
上一篇： 野狼如何学会使用工具？