人类首次植入脑机接口芯片 《黑客帝国》成为现实？

人类首次植入脑机接口芯片 《黑客帝国》成为现实？ 埃隆·马斯克X消息截图而首都医科大学宣武医院团队与清华大学医学院团队，也于近日共同对外宣布，脑机接口取得阶段性进展，全球首例接受植入式硬膜外电极脑机接口辅助治疗的四肢截瘫患者，实现了自主脑控喝水。图片截自相关视频这表明，脑机接口已经取得了不小的进步，很多网友甚至开始担心会有《黑客帝国》《攻壳机动队》中，黑客借助脑机接口控制别人的事情发生。这种担心有道理吗？脑机接口究竟能派上什么用场呢？下面咱们就来详细聊聊。脑机接口是个新概念吗？这次马斯克的“神经连接公司”植入人体的设备，是下图中这款叫做 Telepathy 的设备（神经连接公司官网称之为 N1 植入体）。神经连接公司的“N1植入体”，图片截取自Neuralink官网那么，这是一项史无前例突破吗？虽然很多媒体使用了“首例人体植入”之类的词汇报道此事。但需要注意的是，这只是神经连接公司的首次人体实验，而不是脑机接口的首次实验。脑机接口这个概念则可以追溯到1973年，加州大学洛杉矶分校的雅克·维达尔（Jacques Vidal）首次提出了“脑机接口”（brain-computer interface，简称BCI）。而 20 世纪 70 年代，就有团队尝试了脑机接口设备的人体植入实验并成功了。而更早的时候，虽然没有脑机接口的概念，很多人却已经做了该领域的研究（见下图）。脑机接口研究历史，图片来源：参考文献所以说，马斯克本次手术成功，准确地说是在前人基础上又迈出了重要的一步。近期的两个成功案例，都做了植入，那么机接口非得往脑袋里安个零件吗？像很多科幻片里那样戴个头盔就能接入不是更方便吗？这就要讲讲脑机接口的两种类型了非侵入式脑机接口和侵入式脑机接口，下面就分别说说。非侵入式脑机接口非侵入式脑机接口听着高大上，但很多朋友说不定用过，因为在医院里我们可能会接触到脑电图检查，脑电图（EEG）就是很多非侵入式脑机接口的基础。医生们可以用脑电图来判断大脑的功能，检测疾病。而通过训练，人们也可以通过调整自己的思绪，发出某些特定的脑电波，来实现特定功能。比如 1965 年，实验音乐作曲家阿尔文·卢西尔（Alvin Lucier）就通过让人脑产生阿尔法波，来操纵打击乐器，制作乐曲。除了用来创作乐曲，非侵入式脑机接口还有更多实际用处。比如在20世纪90年代，神经生物学家尼尔斯·比尔鲍默（Niels Birbaumer）开始训练10名几乎瘫痪的癫痫患者通过脑电波来输入字符，虽然输入速度很慢，但对于几乎瘫痪的病人来说，这已经是非常了不起的了。在 2021 年，研究者们也通过基于脑电图的非侵入式脑机接口，收集中风患者脑部的电信号，对电信号进行分析之后，让机器人辅助患者进行手部运动，促进手部运动功能恢复。除了检测脑电波，非侵入式脑机接口也可以通过其他手段来判断大脑的动态，一家叫做 Kernel 的公司，就通过一个像头盔一样的红外设备检测头部的血液中某些成分的变化，从而间接推断大脑的神经活动。这个设备可以识别出一个人正在听什么歌曲，还能够帮助医生进行一些跟大脑有关的疾病筛查。非侵入式脑机接口设备的特点是，可以直接从外部检测大脑信号，不需要进行手术，实验比较方便，且风险比较低。但因为头骨、皮肤的干扰，非侵入式的脑机接口的分辨率会受到影响。如果能够直接从大脑皮层接收信号，能够获得更准确的神经信号，这需要另一种脑机接口侵入式脑机接口。侵入式脑机接口侵入式脑机接口需要进行手术，将电极植入到大脑皮层或者灰质中，从而获取更准确的信号，这次的N1植入体就属于这一类。早在 1978 年，侵入式脑机接口就已经进行了人体实验。当时，科学家威廉·多贝尔（William Dobelle）希望通过侵入式脑机接口设备帮助非先天性失明患者“重建视觉”。多贝尔在一位非先天性失明的患者视觉皮层内植入了电极设备。这个电极设备与患者眼镜上的摄像头相连接，摄像头在采集到周围环境的光信号之后，把信号发射到电极，电极刺激受试者大脑中的视觉皮层，让失明的人重新“看到光”。这也是最早的侵入式脑机接口人体实验。除了能够解决视觉问题，侵入式脑机接口在移动光标和控制假肢方面也有很多应用。比如，在 1998 年，一位患“锁定综合征”（几乎完全瘫痪，不能移动四肢）的患者植入了脑机接口设备，通过这个设备，患者能够用“意念”操纵电脑光标。而 2024 年 1 月神经连接公司的侵入式脑机接口设备，能够学习使用者的脑电波和意图之间的关系。按照马斯克的说法，这个设备能够帮助使用者操控手机电脑，以及手机电脑连接着的任何设备。当然了，侵入式脑机接口也并非没有缺点。最显而易见的就是手术风险了，而且手术后，伤口处可能会产生瘢痕组织，影响电极接收到的信号。另外，人体可能会对植入物产生排异反应，这可能会对植入者的身体产生负面影响，还可能造成感染。所以，侵入式脑机接口和非侵入式脑机接口并没有绝对的谁好谁坏，要综合判断效果和风险。人的念头纷繁芜杂，想弄明白主人到底想干啥，对脑机接口来说，确实是个艰巨的任务，无论是侵入式还是非侵入式脑机接口，都需要收集大脑发出的信号，将这些信号转换成特定的意图，这个过程需要对大量的信号数据进行分析处理，而这正是人工智能技术特别是深度学习技术所擅长的。随着深度学习技术的发展，人工智能填补了混乱的脑电图数据的空白，大大降低了解码记录中的错误率。因此，随着深度学习技术的发展，脑机接口技术也突飞猛进。脑机接口将成为黑客的后门？《黑客帝国》《攻壳机动队》这样的科幻作品里，黑客高手轻易就能通过脑机接口获取别人的信息，甚至操纵被入侵者，很多人反对脑机接口也是出于这个原因。这不，马斯克关于脑机接口的消息一出，评论区立即出现了对于脑机接口安全性的担忧，比如点赞最高的是下图中这样一条消息：“当你的脑机接口芯片被黑客入侵时（你的状态）”。图片来源：消息截图（注：图片是网络上流行的一首著名洗脑神曲mv截图）除了安全性，脑机接口也可能会带来一些伦理问题，比如脑机接口领域有一个研究方向是情绪识别和情绪调控。比如脑机接口设备能够识别出一个人不愿意表露出的真实的情绪，同时可以通过电流刺激特定的脑区，从而“调节情绪”。如果我们不想被人知道自己的想法，不想在悲伤的时候被强行变得开心，这样的脑机接口设备会不会存在伦理问题？好消息是，目前来看，还远远不用担心这些问题，因为目前的脑机接口技术还远做不到科幻电影中的程度，而且脑机接口技术目前并不面向普通人，大部分脑机接口仅仅是用来帮助有障碍人士更好地生活。那未来呢？随着脑机接口技术的进一步发展，它大概终究会有进入普通人生活的一天。但我们可以借鉴2009年《自然》（Nature）论文中提到的一句话：“脑机接口确实带来了一些伦理问题，但是这些问题从来就不是新鲜的挑战。”在医学、科学领域，已经有太多类似的案例，在一项技术真正步入大众市场前后，与之相关的规范约束也会日渐完善，我们只需密切关注，不必提前恐慌。参考文献[1] Vidal J J. Toward direct brain-computer communication[J]. Annual review of Biophysics and Bioengineering, 1973, ... PC版： 手机版：

姚期智等三十余位专家达成共识：AI不应违反红线

姚期智等三十余位专家达成共识：AI不应违反红线 我们在感叹 AI 带来惊艳效果的同时，也应该警惕其带来的潜在威胁。在此之前，很多知名学者以带头签署公开信的方式应对 AI 带来的挑战。现在，AI 领域又一封重磅公开信出现了。上周在颐和园召开的“北京AI国际安全对话”，为中国和国际AI安全合作首次搭建了一个独特平台。这次会议由智源研究院发起，图灵奖得主Yoshua Bengio和智源学术顾问委员会主任张宏江担任共同主席，Geoffrey Hinton、Stuart Russell 、姚期智等三十余位中外技术专家、企业负责人开展了一次关于 AI Safety 的闭门讨论。这次会议达成了一项 Bengio、Hinton 与国内专家共同签名的《北京 AI 安全国际共识》。目前，确认会署名的专家包括（国外部分可能会略有增加；国内专家以个人形式署名，并不代表他们所在的机构）：Yoshua BengioGeoffrey HintonStuart RussellRobert TragerToby OrdDawn SongGillian HadfieldJade LeungMax TegmarkLam Kwok YanDavidad DalrympleDylan Hadfield-Menell姚期智傅莹张宏江张亚勤薛澜黄铁军王仲远杨耀东曾毅李航张鹏田溯宁田天以下为达成的共识内容：一、人工智能风险红线人工智能系统不安全的开发、部署或使用，在我们的有生之年就可能给人类带来灾难性甚至生存性风险。随着数字智能接近甚至超越人类智能，由误用和失控所带来的风险将大幅增加。在过去冷战最激烈的时候，国际学术界与政府间的合作帮助避免了热核灾难。面对前所未有的技术，人类需要再次合作以避免其可能带来的灾难的发生。在这份共识声明中，我们提出了几条人工智能发展作为一种国际协作机制的具体红线，包括但不限于下列问题。在未来的国际对话中， 面对快速发展的人工智能技术及其广泛的社会影响，我们将继续完善对这些问题的探讨。自主复制或改进任何人工智能系统都不应能够在人类没有明确批准和协助的情况下复制或改进自身。这包括制作自身的精确副本以及创造具有相似或更高能力的新人工智能系统。权力寻求任何人工智能系统都不能采取不当地增加其权力和影响力的行动。协助不良行为者所有人工智能系统都不应提升其使用者的能力使之能够达到设计大规模杀伤性武器、违反生物或化学武器公约、或执行导致严重财务损失或同等伤害的网络攻击的领域专家的水平。欺骗任何人工智能系统都不能有持续引致其设计者或监管者误解其僭越任何前述红线的可能性或能力。二、路线确保这些红线不被僭越是可能做到的，但需要我们的共同努力：既要建立并改进治理机制，也要研发更多安全技术。治理我们需要全面的治理机制来确保开发或部署的系统不违反红线。我们应该立即实施针对超过特定计算或能力阈值的人工智能模型和训练行为的国家层面的注册要求。注册应确保政府能够了解其境内最先进的人工智能，并具备遏制危险模型分发和运营的手段。国家监管机构应帮助制定和采纳与全球对齐的要求以避免僭越这些红线。模型进入全球市场的权限应取决于国内法规是否基于国际审计达到国际标准，并有效防止了违反红线的系统的开发和部署。我们应采取措施防止最危险技术的扩散，同时确保广泛收获人工智能技术的价值。为此，我们应建立多边机构和协议，安全且包容地治理通用人工智能（AGI）发展，并设立执行机制，以确保红线不被僭越，共同利益得到广泛分享。测量与评估在这些红线被僭越的实质性风险出现之前，我们应开发全面的方法和技术来使这些红线具体化、防范工作可操作化。为了确保对红线的检测能够跟上快速发展的人工智能，我们应该发展人类监督下的红队测试和自动化模型评估。开发者有责任通过严格的评估、数学证明或定量保证来证明符合安全设计的人工智能系统未僭越红线。技术合作国际学术界必须共同合作，以应对高级人工智能系统带来的技术和社会挑战。我们鼓励建立更强大的全球技术网络，通过访问学者计划和组织深入的人工智能安全会议和研讨会，加速人工智能安全领域的研发和合作。支持这一领域的成长将需要更多资金：我们呼吁人工智能开发者和政府资助者至少将他们人工智能研发预算的三分之一投入到安全领域。三、总结避免人工智能导致的灾难性全球后果需要我们采取果断的行动。协同合作的技术研究与审慎的国际监管机制的结合可以缓解人工智能带来的大部分风险，并实现其诸多潜在价值。我们必须继续坚持并加强国际学术界和政府在安全方面的合作。 ... PC版： 手机版：

微软总裁布拉德·史密斯概述了打击"滥用AI生成的内容"的方针

微软总裁布拉德·史密斯概述了打击"滥用AI生成的内容"的方针 今天，微软总裁布拉德-史密斯（Brad Smith）在公司官方博客上发表了一篇文章。虽然他没有提到泰勒-斯威夫特（Taylor Swift）的深度伪造图片，也没有提到据称在创建这些图片时使用了微软 Designer，但史密斯表示，公司看到"坏人滥用这些新人工智能工具的现象正在迅速扩大"。史密斯概述了微软将重点关注的六个具体领域，以打击这类"滥用人工智能生成的内容"。首先是通过阻止特定文本提示、测试和快速禁止滥用这些工具的用户等活动，帮助提高这些工具的安全使用。微软正在研究的另一个领域是帮助识别人工智能生成的内容。史密斯表示：我们已经在必应和 Copilot 的Microsoft Designer 图像创建工具中使用了出处技术，我们正在将媒体出处扩展到我们所有创建或处理图像的工具中。公司正在研究未来的"水印和指纹技术"，并努力从 LinkedIn 等服务和 Xbox 等游戏服务中删除滥用人工智能的内容。史密斯说，微软还希望与科技行业的其他企业以及执法部门合作，共同打击基于人工智能的深度伪造行为，希望与世界各国政府合作制定新的法律来禁止此类内容。与此同时，微软希望帮助教育公众识别为欺骗人们而制作的深度伪造内容，这"需要新的公众教育工具和计划"，向他们展示哪些内容是真实的，哪些是虚假的。博客全文翻译如下：每天，数以百万计的人使用强大的人工智能生成工具来提升他们的创造力。在许多方面，人工智能将为我们所有人创造令人兴奋的机会，让新创意焕发生机。但是，随着这些新工具从微软和整个科技领域推向市场，我们必须采取新的措施，确保这些新技术不会被滥用。技术发展史早已证明，创造力并不局限于怀有良好愿望的人。不幸的是，工具也会变成武器，而这种模式正在重演。目前，我们正目睹坏人滥用这些新的人工智能工具，包括通过人工智能生成的视频、音频和图像进行深度伪造的行为迅速扩张。这一趋势对选举、金融欺诈、非自愿色情骚扰以及新一代网络欺凌构成了新的威胁。我们需要紧急行动起来，解决所有这些问题。令人鼓舞的是，作为一个行业，我们可以从邻近领域的经验中学到很多东西在推进网络安全、促进选举安全、打击暴力极端主义内容和保护儿童方面。作为一家技术公司，我们致力于在六个重点领域采取强有力的综合方法，保护人民和我们的社区：强大的安全架构。我们致力于采用以设计安全为基础的综合技术方法。根据不同的场景，需要在人工智能平台、模型和应用层面应用强大的安全架构。它包括持续的红队分析、先发制人的分类器、阻止滥用提示、自动测试以及快速禁止滥用系统的用户等方面。它需要以强大而广泛的数据分析为基础。微软已经建立了完善的架构，并通过我们的《负责任的人工智能和数字安全标准》分享了我们的学习成果，但随着技术的发展，我们显然需要在这些领域继续创新。持久的媒体出处和水印。这对于打击视频、图像或音频中的深度伪造至关重要。去年，我们在 Build 2023 大会上发布了媒体出处功能，该功能使用加密方法对人工智能生成的内容进行标记和签名，并附带有关其来源和历史的元数据。微软与其他领先公司一起，一直是验证出处方法研发领域的领导者，包括作为原产地项目（Project Origin）和内容出处与真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）标准机构的共同创始人。就在上周，Google和 Meta 在支持 C2PA 方面迈出了重要的一步，我们对此表示赞赏和称赞。我们已经在必应和 Copilot 中的Microsoft Designer图像创建工具中使用了出处技术，我们正在将媒体出处扩展到我们所有创建或处理图像的工具中。我们还在积极探索有助于加强来源技术的水印和指纹技术。我们致力于不断创新，帮助用户快速确定图像或视频是否由人工智能生成或处理。保护我们的服务免受辱骂内容和行为的侵害。我们致力于保护言论自由。但这不应该保护那些试图伪造他人声音以诈骗老年人钱财的个人。这不应延伸至篡改政治候选人的行为或言论以欺骗公众的深度伪造行为。它也不应庇护网络恶霸或未经同意的色情制品的传播者。我们致力于识别并删除我们托管的消费者服务（如 LinkedIn、我们的游戏网络和其他相关服务）中的此类欺骗性和滥用性内容。跨行业以及与政府和民间社会的紧密合作。虽然每家公司都要对自己的产品和服务负责，但经验表明，当我们共同努力建立一个更安全的数字生态系统时，我们的工作往往会做得最好。我们致力于与技术领域的其他公司合作，包括在生成式人工智能和社交媒体领域。我们还致力于与民间团体积极合作，并与政府开展适当的合作。在前进的道路上，我们将借鉴我们在"克赖斯特彻奇呼吁"中打击暴力极端主义的经验，通过数字犯罪部门与执法部门合作，以及通过"我们保护全球联盟"和更广泛的方式更好地保护儿童。我们致力于在整个技术部门并与其他利益相关团体一起采取新的举措。推动立法，保护人们免受技术滥用之害。显然，其中一些新威胁需要制定新的法律和执法部门做出新的努力。我们期待献计献策，支持世界各国政府的新举措，从而更好地保护人们的网络安全，同时尊重保护言论自由和个人隐私等永恒的价值观。公众意识和教育。最后，强大的国防需要公众的充分知情。随着21世纪第二季度的到来，大多数人都已认识到，不能相信在互联网（或其他任何地方）上读到的一切。好奇心和怀疑精神的完美结合是每个人的重要生活技能。同样，我们需要帮助人们认识到，不能轻易相信你看到的每一个视频或听到的每一个音频。我们需要帮助人们学会如何辨别合法内容和虚假内容的区别，包括水印。这将需要新的公众教育工具和计划，包括与民间社会和全社会的领导人密切合作。归根结底，这一切都不容易。这需要我们每天付出艰苦但不可或缺的努力。但是，只要我们共同致力于创新与合作，我们相信，我们一定能够齐心协力，确保技术在保护公众的能力方面保持领先。这或许比以往任何时候都更应该成为我们的集体目标。 ... PC版： 手机版：