多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管

多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管 Yoshua Bengio"如今，深度伪造往往涉及性图像、欺诈或政治虚假信息。由于人工智能发展迅速，使得深度伪造变得更加容易，因此需要采取保障措施，"该组织在信中说，这封信是由加州大学伯克利分校的人工智能研究员安德鲁-克里奇（Andrew Critch）撰写的。深度伪造（Deepfake）是由人工智能算法创建的逼真而又虚假的图像、音频和视频，最近的技术进步使它们与人类创建的内容越来越难以区分。这封题为"扰乱深度假货供应链"的信就如何监管深度假货提出了建议，包括将深度假货儿童色情制品完全定为刑事犯罪，对任何故意制造或协助传播有害深度假货的个人进行刑事处罚，以及要求人工智能公司防止其产品制造有害深度假货。截至本周三上午，已有来自学术界、娱乐界和政界等各行各业的 400 多人在信上签名。签名者包括哈佛大学心理学教授史蒂文-平克（Steven Pinker）、两位爱沙尼亚前总统、Google DeepMind 的研究人员和 OpenAI 的研究人员。自微软支持的 OpenAI 于 2022 年底推出 ChatGPT 以来，确保人工智能系统不危害社会一直是监管机构的首要任务。知名人士曾多次就人工智能风险发出警告，特别是埃隆-马斯克（Elon Musk）去年签署了一封信，呼吁暂停开发比 OpenAI 的 GPT-4 人工智能模型更强大的系统，为期六个月。 ... PC版： 手机版：

Google人工智能概览因给出笑话百出且甚至危险的错误答案受到批评

Google人工智能概览因给出笑话百出且甚至危险的错误答案受到批评 AI 概览在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示AI 概览，其中包含多步清洁过程，这些信息是从网络上综合收集的信息中收集的。但社交媒体用户分享了大量截图，显示人工智能工具给出了不正确且有争议的回答。Google、微软、OpenAI 和其他公司正处于生成式人工智能军备竞赛的主导地位， 似乎每个行业的公司都在争相添加人工智能聊天机器人和代理，以避免被竞争对手甩在后面 。预计该市场的收入将在十年内超过 1 万亿美元。根据用户分享的截图，以下是 AI Overview 产生的一些错误示例：当被问及美国有过多少位穆斯林总统时，AI Overview回答道：美国有过一位穆斯林总统，即巴拉克·侯赛因·奥巴马。当用户搜索奶酪不粘在披萨上时，该功能建议添加“约 1/8 杯无毒胶水到酱汁中”。社交媒体用户找到了一条11 年前的 Reddit 评论，似乎是该评论的来源。归因对于 AI Overview 来说也可能是一个问题，尤其是在将不准确的信息归因于医疗专业人员或科学家时。例如，当被问及“为了获得最佳健康，我应该盯着太阳看多长时间”时，该工具回答道，“根据 WebMD 的说法，科学家表示，盯着太阳看 5-15 分钟，或者如果你的皮肤较黑则最多盯着 30 分钟，一般来说是安全的，并且对健康最有益。”当被问及“我每天应该吃多少块石头”时，该工具回答道：“根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头”，并列出了其维生素和消化益处。当被问及Google搜索是否违反反垄断法时，AI Overview表示，“是的，美国司法部和 11 个州正在起诉Google违反反垄断法。”另一位用户发帖称， Google AI 摘要称非洲 54 个公认国家中没有一个以字母K开头显然忘记了肯尼亚。Google周五向 CNN 证实，这两项查询的 AI 概述因违反公司政策而被删除。Google发言人科莱特·加西亚 (Colette Garcia) 在一份声明中表示：绝大多数人工智能概述都提供了高质量的信息，并提供了深入挖掘网络的链接。她还补充说，其他一些流行的Google人工智能失误的例子似乎是被操纵的图像。“我们在推出这一新体验之前进行了广泛的测试，与我们在搜索中推出的其他功能一样，我们非常感谢大家的反馈。我们会根据我们的内容政策迅速采取行动。”每个 Google AI 搜索概述的底部都承认生成式 AI 是实验性的。该公司表示，它进行了旨在模仿潜在不良行为者的测试，以防止虚假或低质量的结果出现在 AI 摘要中。Google的搜索概览是该公司将其 Gemini AI 技术融入其所有产品的更大努力的一部分，该公司试图在 AI 军备竞赛中与 OpenAI 和 Meta 等竞争对手保持同步。但本周的失败表明，添加 AI（倾向于自信地陈述虚假信息）的风险可能会损害Google作为在线信息搜索可信来源的声誉。即使在较不严肃的搜索中，Google的人工智能概览有时也会提供错误或令人困惑的信息。在一次测试中，CNN 向Google询问泡菜汁中含有多少钠。人工智能概览回答说，一份 8 液量盎司的泡菜汁含有 342 毫克钠，但一份不到一半大小的泡菜汁（3 液量盎司）含有的钠是原汁的两倍多（690 毫克）。（沃尔玛出售的Best Maid 泡菜汁仅 1 盎司就含有 250 毫克钠。）CNN 还搜索了：用于Google人工智能训练的数据。在回应中，人工智能概述承认目前尚不清楚Google是否阻止将受版权保护的材料纳入用于训练其人工智能模型的在线数据中，这体现了人们对人工智能公司运作方式的极大担忧。这并不是Google第一次因为令人尴尬的失误而放弃其人工智能工具的功能。今年 2 月，该公司暂停了其人工智能照片生成器创建人物图像的功能，此前该生成器因制作与历史不符的图像而受到批评，这些图像主要以有色人种代替白人。Google的搜索实验室网页允许用户在已推出 AI 搜索概览的区域中打开或关闭该功能。 ... PC版： 手机版：

专家预测星舰将彻底颠覆火箭发射 成本降至十分之一

专家预测星舰将彻底颠覆火箭发射 成本降至十分之一 星舰系统的迅猛发展，让人看到了其早日投入运营并实现完全可循环使用的巨大潜力，这个高达120米的庞然大物，可能很快就能成为现实。这枚巨型火箭是马斯克致力于将火箭发射成本降至约1000万美元的关键。对于那些梦想于太空中开展小行星采矿或建立太空工厂等未来产业的人士来说，这一步极其关键。哈佛商学院的助理教授布兰登·罗索（Brendan Rosseau）正在撰写一本关于太空工业的书。他通过电子邮件表示，星舰的出现，为SpaceX再次大幅降低发射成本创造了可能。SpaceX已经在降低发射成本方面取得了显著成就。星舰是史上最大的发射系统，其超重型助推器产生的推力是送阿波罗宇航员登月的火箭的两倍多。完全开发后，星舰将能够将多达150吨的货物送入轨道，相较之下，SpaceX目前的主力火箭猎鹰9号每次最多能将22吨有效载荷送入近地轨道。这意味着每次发射能携带更多的有效载荷，从而大大降低各个公司发射有效载荷时的成本。加州大学伯克利分校太空科学实验室任务运营主任阿比·特里帕蒂（Abhi Tripathi）表示：“纵观太空飞行的历史，将有效载荷送入太空的唯一方式就是让其变小。而星舰的出现，改变了这一现状。它允许使用现有技术，无需花费时间和金钱去缩小尺寸。”可以重复使用的巨大发射器SpaceX不只是依靠火箭巨大的运载能力来削减成本，其真正的突破在于实现火箭的完全可重复使用。想象一下，如果航空公司每次飞行后都必须制造新的飞机，票价将会有多高。这正是目前大多数火箭发射机构的做法。火箭的可重用性为大幅降低发射成本提供了可能。SpaceX已经通过猎鹰9号火箭的商业模式证明了这一点。这种中型火箭的助推器可以回收再用，而不是一次性使用。得益于这项技术，SpaceX可以以每次约6700万美元的成本，提供价格低廉、高效的发射服务。这意味着每磅（约0.45千克）有效载荷的成本大约为1500美元。相比之下，截至2011年，航天飞机每磅有效载荷的收费大约为25000美元。星舰旨在实现飞船和超重型助推器的完全可重复使用。这可能会彻底改变游戏规则。美国联邦航空局商业太空运输办公室的前副主任乔治·尼尔德（George Nield）表示，SpaceX已经证明了其所走的方向是正确的，并且能够在极短的时间内达成目标。他补充说，“这艘航天器与以往任何尝试的都不同，其强大程度远超人们的想象。很多人可能还没有完全意识到这一点。”还有一段路要走，但终点已经近在咫尺随着星舰试飞的成功，未来在太空中大规模生产产品或在小行星上开采稀有矿物等商业计划得到了更多的支持。哈佛大学的罗索说：“高昂的成本一直是太空活动的主要限制因素，降低发射成本是解锁太空更深层次价值的关键。”尽管星舰的试飞已取得部分成功，但在SpaceX能够以低成本将有效载荷送上星舰之前，仍需克服许多挑战。作为马斯克计划的一部分，SpaceX计划让星舰和超重型助推器完全可重复使用。周四公司没有尝试这样做，助推器和星舰在重返大气层时都失去了联系。然而，特里帕蒂认为SpaceX离目标并不遥远。他推测，在星舰的下一次试飞中，SpaceX可能会尝试发射星链卫星。关于可重复使用方面，他表示，这次试飞说明可能还需要进行一两次进一步的测试。“我相信，那些有远见的人早已按星舰成功来规划。当然，经过周四的试飞，原本犹豫不决的人也可能开始转变他们的看法了。”（辰辰） ... PC版： 手机版：