马斯克称AI造福人类概率远大于毁灭人类

马斯克称AI造福人类概率远大于毁灭人类 在视频中，马斯克讨论了数字超级智能是人类最大的希望还是恐惧。马斯克通过在线方式参加了这次活动，并回答了这个问题，他说：“随着超级智能的出现，实际上很难预测接下来会发生什么。”马斯克补充称：“所以，我认为它有可能终结人类。我可能同意杰弗里·辛顿的说法，这大约是10%或20%或类似的概率。积极的可能性超过消极的可能性。”马斯克接着说：“（人工智能的）经济产出真的没有什么有意义的限制。所以，你知道，往好的方面看，我们正走向一个富足的未来。我认为这是最有可能的结果。”马斯克在X上回应这条帖子时重申了自己的观点，他说：“有一系列的结果，从糟糕到伟大，但在我看来，后者更有可能。” ... PC版： 手机版：

Nature发布2024年值得关注的七大技术 中国科学家成果首次入选

Nature发布2024年值得关注的七大技术 中国科学家成果首次入选 值得一提的是，高彩霞团队开发的大片段DNA精准定点插入新工具PrimeRoot入选，这也是自2018年首次评选以来，第一项来自中国学者的技术成果入选。大片段DNA插入2023年12月，美国FDA批准了首个基于CRISPR-Cas9的基因编辑疗法上市，用于治疗镰状细胞病，几天前，FDA进一步批准了该疗法用于治疗输血依赖性β-地中海贫血。这是基因编辑在临床应用中的重大胜利。CRISPR-Cas9及相关基因编辑技术通过使用Cas9等核酸酶切割DNA双链实现对基因的敲除或引入小的序列变化，其很难实现精确的可编程的大片段DNA序列的插入。而最近的一些研究成果，让科学家们能够替换或插入大片段DNA。2023年4月，中国科学院遗传与发育生物学研究所高彩霞团队在 Nature Biotechnolgy 期刊发表了题为：Precise integration of large DNA sequences in plant genomes using PrimeRoot editors 的研究论文。该研究将团队之前开发的ePPE（Engineered Plant Prime Editor）与刘如谦团队开发的epegRNA（Engineered pegRNA）结合，在植物细胞内建立了dual-ePPE系统，实现了最高效率可达50%以上的短片段DNA的精准定点插入。然后将dual-ePPE与筛选出的高效的酪氨酸家族位点特异性重组酶Cre相结合，开发了能够实现大片段DNA精准插入的PrimeRoot系统。该系统在水稻和玉米中能够实现一步法大片段DNA的精准定点插入，效率可达6%，成功插入的片段长度最长达11.1kb，且插入完全精准可预测，在编辑效率和精准性上具有显著优势。高彩霞研究员，照片来源：Stefen Chow高彩霞研究员表示，PrimeRoot系统高效、精准插入大片段DNA的能力，可通过基因敲入广泛用于赋予作物对疾病和病原体的抗性，从而继续推动基于CRISPR的植物基因组工程的创新浪潮。相信这项新技术可以应用于任何植物物种。2022年11月，麻省理工学院的 Omar Abudayyeh、Jonathan Gootenberg 团队在 Nature Biotechnology 期刊发表了题为：Drag-and-drop genome insertion of large sequences without double-strand DNA cleavage using CRISPR-directed integrases 的研究论文。该研究将来自噬菌体的丝氨酸整合酶与Cas9切口酶（只切断DNA一条链，而不造成DNA双链断裂）结合，开发了一种名为PASTE的新型基因编辑技术。PASTE在gRNA的引导下切割特定基因组位点，此时Cas9切口酶融合的逆转录酶将整合酶所需的附着位点序列整合进切割位点。通过这种方式，就可以将整合酶所需的附着位点插入基因组中的任何位置，而且这种插入不引起DNA双链断裂，此时，整合酶就可以与附着位点结合，将大片段DNA序列插入。该技术能够以更安全、更有效的方式替换突变基因，还可向哺乳动物及人类细胞中定点插入长达36kb的超长DNA片段。2022年2月，斯坦福大学丛乐团队在 Nature Cell Biology 期刊发表了题为：dCas9-based gene editing for cleavage-free genomic knock-in of long sequences 的研究论文。该研究将来自噬菌体的DNA精确重组酶单链退火蛋白（SSAP），与DNA切割活性丧失的dCas9系统结合，开发出了一种新型基因编辑工具dCas9-SSAP，可在不产生DNA双链断裂的情况下，实现长达2kb的大片段DNA的高效、精准定点插入。丛乐认为，对于体内基因编辑而言，PASTE尺寸太大，需要三个独立的AAV病毒载体毒才能递送，因此，其编辑效率可能不如尺寸更小的dCas9-SSAP。深度学习用于蛋白质设计20年前，华盛顿大学的 David Baker 等人在Science 期刊发表论文【2】，取得了一项里程碑式成就：他们使用计算工具从头设计了一个全新蛋白质Top7，该蛋白由93个氨基酸残疾组成，能够如预期般折叠，且非常稳定，但它没有任何有意义的生物学功能。David Baker教授而现在，在 David Baker 等人的努力下，从头设计蛋白质已经一种成熟的工具，用于生成定制酶，及其他基于蛋白质的药物、疫苗和药物递送载体。这种进步的大部分归因于越来越多的将蛋白质序列与其结构联系起来的数据库，但人工智能的技术进步也同样重要。例如，2023年2月，David Baker 团队在 Nature 期刊发表论文，从头设计了人造荧光素酶，这也是科学界首次基于深度学习的人工智能来创造自然界不存在的酶。2023年4月，David Baker 团队在 Science 期刊发表论文，利用基于强化学习的人工智能从头设计了全新且有功能的蛋白纳米颗粒，为疫苗和药物递送载体开发开辟了全新道路。2023年12月，David Baker 团队在 Nature 期刊发表论文，利用基于深度学习的人工智能从头设计了具有高亲和力和特异性的全新蛋白质，这为抗体设计和疾病诊断打开了新思路。脑机接口2012年，Pat Bennett 被诊断出患上了渐冻症（ALS），而且她的情况比较特殊，她的脑干更早开始恶化，她在还能行走、打字的时候，就已经无法使用嘴唇、舌头、喉部和下颚的肌肉运动来清晰地发声，她的大脑能够尝试发声，但肌肉已无法执行这一命令，从而失去了说话的能力。2022年3月，她参加了斯坦福大学 Francis Willett 教授领导的脑机接口临床试验，研究团队在她的 大脑皮层表面植入了四个微型 细电极阵列（每个阵列包含8×8个电极），用于收集单个细胞的神经活动，植入的阵列连接到金线上并通过电缆连接到电脑上，并训练人工智能（AI）来解码她试图进行的发声。Pat Bennett 在进行测试2023年8月，Francis Willett 团队将这项研究以：A high-performance speech neuroprosthesis 为题，发表在了 Nature 期刊。该论文显示，通过植入皮质内脑机接口（iBCI），并通过训练人工智能（AI）软件，能够将渐冻症（ALS）患者 Pat Bennett 大脑中的神经活动实时转化为文字，转化速度可达每分钟62个单词，总词汇量高达125000，相比已有的脑机接口速度更快、准确性更高、词汇覆盖率更大。 这项研究展示了一条可行的路径以恢复渐冻症等瘫痪者的语言沟通能力。Nature 同期还发表了来自 加州大学旧金山分校的张复伦（Edward Chang）团队题为：A high-performance neuroprosthesis for speech decoding and avatar control 的研究论文 。该研究开发了一种新型脑机接口（BCI） ，结合人工智能（AI）技术，可以高性能、实时将因脑干中风而严重瘫痪的患者大脑信号同时转化为三种输出形式： 文字 、语音和 控制一个头像 ，从而帮助严重瘫痪者恢复沟通能力。这些脑机接口装置的开发成功应用，代表了神经科学和神经工程学研究的重大进步，对于缓解因瘫痪性神经损伤和疾病而失声的人的痛苦有巨大潜力。细胞图谱Wellcome Sanger研究所的 Sarah Teichmann 和现任基因泰克公司的研究和早期开发负责人 Aviv Regev 于2016年发起了一项规模庞大、雄心勃勃的人类细胞图谱 （Human Cell Atlas，HCA） 计划。该计划有近100个国家的约3000名科学家参与，而HCA本身也是一个更广泛的细胞和分子图谱交叉生态系统的一部分，包括人类生物分子图谱计划（HuBMAP）和脑计划（BICCN）。去年，已有数十项研究展示了使用这些技术生成器官特异性图谱的进展。2023年，Nature 发布了一个论文集，重点介绍了HuBMAP的进展，Science 则发布了一篇论文集，详细介绍了BICCN的工作。人类肺部的细胞图谱描述了不同的细胞类型及其调节方式Sarah Teichmann 表示，还有相当多的工作要做，估计至少需要五年时间才能完成HCA计划。但当该计划完成时，产生的人类细胞图谱将是无价之宝。例如可以使用细胞图谱数据来指导组织和细胞特异性药物开发，还有助于了解癌症等复杂疾病的风险和病因。超高分辨率显微成像Stefan Hell 、Eric Betzig和William Moerner因打破限制光显微镜空间分辨率的“衍射极限”而获得2014年诺贝尔化学奖，... PC版： 手机版：

Open AI 公布了和马斯克的邮件往来，来应对马斯克的诉讼，终于又在 Open AI 的文件中看到了Ilya的名字。看来还是没

Open AI 公布了和马斯克的邮件往来，来应对马斯克的诉讼，终于又在 Open AI 的文件中看到了Ilya的名字。看来还是没有完全闹掰。 我大致总结了一下声明的内容，里面邮件被涂掉的内容才是最重要的。 声明总结： OpenAI发布了一篇博客，详细介绍了其与埃隆·马斯克（Elon Musk）的关系以及公司的使命。OpenAI的使命是确保人工通用智能（AGI）惠及全人类，这不仅包括构建安全、有益的AGI，还包括帮助创造广泛分布的利益。OpenAI意识到，构建AGI将需要比最初想象的更多资源。马斯克建议宣布对OpenAI的初始10亿美元资金承诺。自2015年底成立以来，该非营利组织从马斯克那里筹集了不到4500万美元，从其他捐赠者那里筹集了超过9000万美元。 在讨论为了进一步使命而采取的营利性结构时，马斯克希望OpenAI与特斯拉合并，或者他希望拥有完全控制权。最终，马斯克离开了OpenAI，表示需要有一个能与谷歌/DeepMind竞争的相关对手，并且他将自己去做。2017年底，OpenAI和马斯克决定下一步是创建一个营利性实体。马斯克希望拥有多数股权、最初的董事会控制权，并担任CEO。在这些讨论中，他暂停了资金支持。 OpenAI强调，他们通过构建广泛可用的有益工具来推进使命，使技术在赋能人们和改善他们的日常生活方面广泛可用，包括通过开源贡献。例如，阿尔巴尼亚利用OpenAI的工具加速其加入欧盟的进程长达5.5年；Digital Green通过在OpenAI的基础上构建，帮助肯尼亚和印度的农民收入提高了100倍；罗德岛最大的医疗保健提供者Lifespan使用GPT-4简化其手术同意书，从大学阅读级别简化到六年级水平；冰岛使用GPT-4保护冰岛语言。 马斯克理解使命并不意味着开源AGI。随着OpenAI接近构建AI的目标，他们开始变得不那么开放。OpenAI表示，他们对与曾经深受尊敬、激励他们设定更高目标的人马斯克的关系走到这一步感到遗憾，尽管他后来告诉他们他们会失败，启动了一个竞争对手，然后在他们开始朝着OpenAI的使命取得有意义的进展时起诉他们。OpenAI专注于推进其使命，并且还有很长的路要走。随着他们继续改进工具，他们兴奋地部署这些系统，以便赋能每个人。 全文：

OpenAI官方发文驳斥马斯克 自曝8年间邮件往来截图

OpenAI官方发文驳斥马斯克 自曝8年间邮件往来截图 文章开篇表示：“OpenAI 的使命是确保 AGI 惠及全人类，这意味着既要构建安全、有益的 AGI，又要帮助创造广泛的利益。我们正在分享我们在实现使命方面所学到的知识，以及有关我们与马斯克关系的一些事实。我们打算驳回马斯克的所有主张。”与此同时，曝光邮件内容中的一些“神秘信息”，再次加重了人们的好奇：马斯克所提到的人类未来，到底取决于什么？文章由 Greg Brockman、Ilya Sutskever、John Schulman、Sam Altman、Wojciech Zaremba 共同署名。当科技圈都在猜测 Ilya 是否已经因为与 Sam Altman 的矛盾离开 OpenAI 的时候，署名算是一种变相回应：至少此时，Ilya 仍作为核心成员全力抵御 OpenAI 正在面对的风暴。几天前，马斯克这位前 OpenAI 联合创始人在一份长达 46 页、总字数超过 1.4 万字的诉讼文件中，指控 OpenAI 不计后果地开发人类级别的人工智能，并将其移交给微软。马斯克的诉讼要求法院强制 OpenAI 回归开源，并阻止公司及其创始人以及微软等背后支持者从中获利。（参见：《马斯克起诉 OpenAI：他们做出了 AGI 还授权给微软，这是对创始协议赤裸裸的背叛》）OpenAI CEO 对此的态度显得意味深长，让事情变得越发神秘：马斯克与 OpenAI 之间是理念不合，还是利益之争，局外人很难揣测。一切没说破的话，可能都在这封信里。OpenAI 的反击OpenAI 在最新发布的长信中写道：我们意识到构建 AGI 需要的资源比我们最初想象的要多得多（在 2015 年的一封邮件中）马斯克称，我们应该对外宣布一份 10 亿美元的启动资金。但总的来说，作为非营利组织的 OpenAI 总共从马斯克那里筹集了不到 4500 万美元，从其他捐助者那里筹集了超过 9000 万美元。2015 年底创办 OpenAI 时，Greg Brockman 和 Sam Altman 最初计划筹集 1 亿美元。马斯克在一封电子邮件中表示：“我们需要一个比 1 亿美元大得多的数字，以避免听起来目标无望…… 我认为我们应该从 10 亿美元的资金承诺开始…… 对于其他人未提供的部分，我将负责补足。”我们花了很多时间试图设想一条可行的通用人工智能道路。2017 年年初，我们意识到构建 AGI 将需要大量算力，并且开始计算 AGI 可能需要多少计算量。我们都知道，我们需要更多的资金才能成功完成我们的使命 每年大概数十亿美元，这远远超过我们任何人，尤其是马斯克认为我们作为非营利组织能够筹集到的资金。我们和马斯克认识到：需要一个营利性实体来获取这些资源当我们讨论以营利为目的的结构以进一步实现我们的使命时，马斯克希望我们与特斯拉合并，或者由他来完全控制 OpenAI。后来，马斯克离开了 OpenAI，表示需要有一个与Google / DeepMind 竞争的对手，而他将自己做这件事。他说他会支持我们找到自己的道路。事情是这样的，2017 年年底，我们和马斯克决定下一步的任务是创建一个营利性实体。马斯克想要获得多数股权、初始董事会控制权并担任首席执行官，并且在讨论期间，他扣留了资金。Reid Hoffman 弥补了工资和运营方面的缺口。我们无法与马斯克就营利性条款达成一致，因为我们认为任何个人对 OpenAI 拥有绝对控制权都是违背使命的。然后马斯克建议将 OpenAI 并入特斯拉。2018 年 2 月上旬，马斯克向我们转发了一封电子邮件，建议 OpenAI 应该“将特斯拉作为其摇钱树”，并评论说：“这是完全正确的……特斯拉是唯一有希望与Google相媲美的选择。即便如此，制衡Google的可能性也很小。它只是不为零。”很快，马斯克就选择离开 OpenAI，他说我们成功的可能性为零，他计划在特斯拉内部建立一个 AGI 竞争对手。2018 年 2 月底离开时，他告诉我们团队，他支持我们自己寻找融资数十亿美元的道路。2018 年 12 月，马斯克给我们发邮件说：“即使筹集到几亿美元也不够。做这件事需要每年迅速筹集数十亿美元，否则就算了。”我们通过构建可广泛使用的有益工具来推进我们的使命我们通过开源贡献等方式，使我们的技术能够广泛使用，从而增强人们的能力，改善他们的日常生活。我们广泛提供当今最强大的 AI，包括每天有数亿人使用的免费版本。例如，阿尔巴尼亚正在使用 OpenAI 的工具，将其加入欧盟的时间加快了 5.5 年；Digital Green 正在帮助肯尼亚和印度提高农民收入，以 OpenAI 的技术为基础将农业推广服务的成本降低至原来的 1/100；罗得岛州最大的医疗保健提供商 Lifespan 使用 GPT-4 将其手术同意书从大学阅读水平简化为六年级阅读水平；冰岛正在使用 GPT-4 保护冰岛语。马斯克明白，我们的使命并不意味着开源 AGI。Ilya 曾告诉马斯克“随着我们越来越接近构建人工智能，开始降低开放程度是有意义的。openAI 中的『开放』是指人工智能建成后，每个人都应从人工智能的成果中获益，但不分享科学成果也完全没问题......”。当时，马斯克回答道：“是的（Yup）”。我们很伤心，因为我们深深敬佩的一个人 他激励我们向更高的目标迈进 他说我们会失败，还成立了一个竞争对手公司。当我们在没有他的情况下开始朝着 OpenAI 的使命取得有意义的进展时，他又起诉了我们。我们专注于推进我们的使命，任重而道远。随着我们不断改进我们的工具，我们很高兴能部署这些系统，让每个人都能使用它们。吃瓜的网友OpenAI 的长信回应一时之间引爆了社交圈，吃瓜网友纷纷搬起了小板凳，围观这场“闹剧”。活跃软件开发者、Deep trading 创始人 Yam Peleg 表示，“赶紧来吃新瓜啊”。著名学者、纽约大学教授 Gary Marcus 对 OpenAI 的声明嗤之以鼻，直言 OpenAI 所说的“我们持之以恒追求自己的使命，比如不受产生利益回报的限制、不为私人利益掣肘、在适用的情况下寻求技术开源”是胡说八道。现在，微软拥有 OpenAI 的独家所有权，49％的利润都归微软所有。OpenAI 不是在帮助全人类，而是从艺术家、作家那里窃取来增加自己的利润。更重要的是，OpenAI 几乎完全放弃了开源，并且成为最不开放的 AI 公司之一。无论与马斯克之间的恩怨如何，OpenAI 声称保持使命不变都是不诚实的。总之，OpenAI违背了 2015 年成立时的宣言。另外，大家比较好奇的一点是双方邮件中的一句话，“不幸的是，人类的未来掌握在■■■的手上。”众多网友纷纷猜测■■■中是谁？Google吗？还有人发现了以前从未听过的有趣观点，“OpenAI 的开放（open）只意味着每个人都可以从 AI 构建的成果中获益，而不向科学界分享是完全可以的。”当然，更多人迫切地想要看到马斯克会如何回应。 ... PC版： 手机版：