【OpenAI回应各方质疑】OpenAI周三发文介绍了确保其技术安全的方案,包括进行安全评估、提高事实准确性、保护儿童以及尊重隐

【OpenAI回应各方质疑】OpenAI周三发文介绍了确保其技术安全的方案,包括进行安全评估、提高事实准确性、保护儿童以及尊重隐私等。OpenAI声称,确保人工智能系统的安全构建、部署和使用对实现其使命至关重要。 #抽屉IT

相关推荐

封面图片

世界卫生组织在周三的一次简报会中敦促中国政府对其奥密克戎疫情更加透明,一些官员质疑中国新冠数据的准确性。

世界卫生组织在周三的一次简报会中敦促中国政府对其奥密克戎疫情更加透明,一些官员质疑中国新冠数据的准确性。 “我们认为,目前中国公布的数字低估了新冠的真正影响……特别是在死亡方面,”WHO突发卫生事件规划执行主任迈克尔·瑞安说,“中国政府对新冠造成的死亡定义过窄”。

封面图片

斯诺登:OpenAI聘用前安全局局长是蓄意背叛

斯诺登:OpenAI聘用前安全局局长是蓄意背叛 OpenAI引用中曾根拥有世界级的网络安全经验;从 2018 年到 2024 年 2 月,他领导了美国国家安全局和美国网络司令部。该公司现在希望中曾根能帮助 OpenAI 改善其网络安全,包括保护其 AI 超级计算机免受黑客组织的攻击。然而,斯诺登指控 OpenAI 聘用 Nakasone 别有用心。“任命 NSA 局长进入董事会只有一个原因。这是对地球上每个人权利的蓄意背叛。我已经警告过你了。”斯诺登发推表示。斯诺登没有详细说明,但 OpenAI 因其如何收集数据来训练其 AI 模型而受到严格审查。ChatGPT 正在处理来自数千万每天的用户数这也可能使该技术成为一种有价值的监控方式。“我确实认为人工智能的最大应用将是大规模人口监控,因此将美国国家安全局前局长带入 OpenAI 背后有着坚实的逻辑。”安全专家马修·格林发推文说。OpenAI 没有立即回应置评请求。但该公司认为 Nakasone 的聘用完全是为了网络安全和负责任的 AI 开发。旧金山实验室在公告中表示:OpenAI 系统的安全性从保护我们运营的大型 AI 训练超级计算机到保护我们敏感的模型权重和客户委托给我们的数据对于实现我们的使命至关重要。OpenAI 还指出,人工智能有可能为许多经常遭受网络攻击的机构带来巨大利益,例如医院、学校和金融机构。与其他技术提供商一样,该公司能被迫披露用户信息以遵守执法要求,包括用户姓名、联系方式、IP 地址和内容。不过,OpenAI 确实提供了数据控制这可以阻止他们的数据被用于人工智能模型训练目的。相关文章:前美国国家安全局局长加入OpenAI董事会 ... PC版: 手机版:

封面图片

OpenAI,ChatGPT团队,正在评估是否许可使用其AI技术制造成人内容。虽然确保不会使用深度伪造技术,但引发了对其“打造安

OpenAI,ChatGPT团队,正在评估是否许可使用其AI技术制造成人内容。虽然确保不会使用深度伪造技术,但引发了对其“打造安全AI”的初衷的担忧。提议让开发者和用户制造NSFW内容,引发讨论。这项政策正被深入研究,其结果将深刻影响AI内容的生成方向。 省流:chatgpt可能在以后支持无nsfw限制的API调用服务,不监控用户生成任何数据。 #OpenAI #AI #AI文爱 引用 source #chatgpt

封面图片

白宫表示,OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示,OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全 拜登政府表示,OpenAI、谷歌和 Meta 等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施,以帮助提高技术的安全性。承诺在发布 AI 系统之前对其进行彻底测试,并分享有关如何降低风险和投资于网络安全的信息。 拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。 作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。 两家公司还承诺,随着人工智能的发展,将重点保护用户的隐私,并确保该技术不存在偏见,不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。

封面图片

OpenAI官方发文驳斥马斯克 自曝8年间邮件往来截图

OpenAI官方发文驳斥马斯克 自曝8年间邮件往来截图 文章开篇表示:“OpenAI 的使命是确保 AGI 惠及全人类,这意味着既要构建安全、有益的 AGI,又要帮助创造广泛的利益。我们正在分享我们在实现使命方面所学到的知识,以及有关我们与马斯克关系的一些事实。我们打算驳回马斯克的所有主张。”与此同时,曝光邮件内容中的一些“神秘信息”,再次加重了人们的好奇:马斯克所提到的人类未来,到底取决于什么?文章由 Greg Brockman、Ilya Sutskever、John Schulman、Sam Altman、Wojciech Zaremba 共同署名。当科技圈都在猜测 Ilya 是否已经因为与 Sam Altman 的矛盾离开 OpenAI 的时候,署名算是一种变相回应:至少此时,Ilya 仍作为核心成员全力抵御 OpenAI 正在面对的风暴。几天前,马斯克这位前 OpenAI 联合创始人在一份长达 46 页、总字数超过 1.4 万字的诉讼文件中,指控 OpenAI 不计后果地开发人类级别的人工智能,并将其移交给微软。马斯克的诉讼要求法院强制 OpenAI 回归开源,并阻止公司及其创始人以及微软等背后支持者从中获利。(参见:《马斯克起诉 OpenAI:他们做出了 AGI 还授权给微软,这是对创始协议赤裸裸的背叛》)OpenAI CEO 对此的态度显得意味深长,让事情变得越发神秘:马斯克与 OpenAI 之间是理念不合,还是利益之争,局外人很难揣测。一切没说破的话,可能都在这封信里。OpenAI 的反击OpenAI 在最新发布的长信中写道:我们意识到构建 AGI 需要的资源比我们最初想象的要多得多(在 2015 年的一封邮件中)马斯克称,我们应该对外宣布一份 10 亿美元的启动资金。但总的来说,作为非营利组织的 OpenAI 总共从马斯克那里筹集了不到 4500 万美元,从其他捐助者那里筹集了超过 9000 万美元。2015 年底创办 OpenAI 时,Greg Brockman 和 Sam Altman 最初计划筹集 1 亿美元。马斯克在一封电子邮件中表示:“我们需要一个比 1 亿美元大得多的数字,以避免听起来目标无望…… 我认为我们应该从 10 亿美元的资金承诺开始…… 对于其他人未提供的部分,我将负责补足。”我们花了很多时间试图设想一条可行的通用人工智能道路。2017 年年初,我们意识到构建 AGI 将需要大量算力,并且开始计算 AGI 可能需要多少计算量。我们都知道,我们需要更多的资金才能成功完成我们的使命 每年大概数十亿美元,这远远超过我们任何人,尤其是马斯克认为我们作为非营利组织能够筹集到的资金。我们和马斯克认识到:需要一个营利性实体来获取这些资源当我们讨论以营利为目的的结构以进一步实现我们的使命时,马斯克希望我们与特斯拉合并,或者由他来完全控制 OpenAI。后来,马斯克离开了 OpenAI,表示需要有一个与Google / DeepMind 竞争的对手,而他将自己做这件事。他说他会支持我们找到自己的道路。事情是这样的,2017 年年底,我们和马斯克决定下一步的任务是创建一个营利性实体。马斯克想要获得多数股权、初始董事会控制权并担任首席执行官,并且在讨论期间,他扣留了资金。Reid Hoffman 弥补了工资和运营方面的缺口。我们无法与马斯克就营利性条款达成一致,因为我们认为任何个人对 OpenAI 拥有绝对控制权都是违背使命的。然后马斯克建议将 OpenAI 并入特斯拉。2018 年 2 月上旬,马斯克向我们转发了一封电子邮件,建议 OpenAI 应该“将特斯拉作为其摇钱树”,并评论说:“这是完全正确的……特斯拉是唯一有希望与Google相媲美的选择。即便如此,制衡Google的可能性也很小。它只是不为零。”很快,马斯克就选择离开 OpenAI,他说我们成功的可能性为零,他计划在特斯拉内部建立一个 AGI 竞争对手。2018 年 2 月底离开时,他告诉我们团队,他支持我们自己寻找融资数十亿美元的道路。2018 年 12 月,马斯克给我们发邮件说:“即使筹集到几亿美元也不够。做这件事需要每年迅速筹集数十亿美元,否则就算了。”我们通过构建可广泛使用的有益工具来推进我们的使命我们通过开源贡献等方式,使我们的技术能够广泛使用,从而增强人们的能力,改善他们的日常生活。我们广泛提供当今最强大的 AI,包括每天有数亿人使用的免费版本。例如,阿尔巴尼亚正在使用 OpenAI 的工具,将其加入欧盟的时间加快了 5.5 年;Digital Green 正在帮助肯尼亚和印度提高农民收入,以 OpenAI 的技术为基础将农业推广服务的成本降低至原来的 1/100;罗得岛州最大的医疗保健提供商 Lifespan 使用 GPT-4 将其手术同意书从大学阅读水平简化为六年级阅读水平;冰岛正在使用 GPT-4 保护冰岛语。马斯克明白,我们的使命并不意味着开源 AGI。Ilya 曾告诉马斯克“随着我们越来越接近构建人工智能,开始降低开放程度是有意义的。openAI 中的『开放』是指人工智能建成后,每个人都应从人工智能的成果中获益,但不分享科学成果也完全没问题......”。当时,马斯克回答道:“是的(Yup)”。我们很伤心,因为我们深深敬佩的一个人 他激励我们向更高的目标迈进 他说我们会失败,还成立了一个竞争对手公司。当我们在没有他的情况下开始朝着 OpenAI 的使命取得有意义的进展时,他又起诉了我们。我们专注于推进我们的使命,任重而道远。随着我们不断改进我们的工具,我们很高兴能部署这些系统,让每个人都能使用它们。吃瓜的网友OpenAI 的长信回应一时之间引爆了社交圈,吃瓜网友纷纷搬起了小板凳,围观这场“闹剧”。活跃软件开发者、Deep trading 创始人 Yam Peleg 表示,“赶紧来吃新瓜啊”。著名学者、纽约大学教授 Gary Marcus 对 OpenAI 的声明嗤之以鼻,直言 OpenAI 所说的“我们持之以恒追求自己的使命,比如不受产生利益回报的限制、不为私人利益掣肘、在适用的情况下寻求技术开源”是胡说八道。现在,微软拥有 OpenAI 的独家所有权,49%的利润都归微软所有。OpenAI 不是在帮助全人类,而是从艺术家、作家那里窃取来增加自己的利润。更重要的是,OpenAI 几乎完全放弃了开源,并且成为最不开放的 AI 公司之一。无论与马斯克之间的恩怨如何,OpenAI 声称保持使命不变都是不诚实的。总之,OpenAI违背了 2015 年成立时的宣言。另外,大家比较好奇的一点是双方邮件中的一句话,“不幸的是,人类的未来掌握在■■■的手上。”众多网友纷纷猜测■■■中是谁?Google吗?还有人发现了以前从未听过的有趣观点,“OpenAI 的开放(open)只意味着每个人都可以从 AI 构建的成果中获益,而不向科学界分享是完全可以的。”当然,更多人迫切地想要看到马斯克会如何回应。 ... PC版: 手机版:

封面图片

OpenAI 预测超智能 AI 十年内出现,正研究用 AI 来监督 AI

OpenAI 预测超智能 AI 十年内出现,正研究用 AI 来监督 AI 当地时间周三,ChatGPT 的开发者 OpenAI 表示计划投入更多资源并成立新的研究团队,研究如何确保 AI 对人类的安全性,最终实现用 AI 来监督 AI。 OpenAI 联合创始人伊利亚・苏茨凯弗(Ilya Sutskever)和 AI 对齐负责人简・莱克(Jan Leike)在中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能 AI,并防止其变成无赖。” 这篇博文预测,超智能 AI,即相比于人类更智能的系统,可能会在未来 10 年中出现。人类需要比目前更强大的技术来控制超智能 AI,因此需要在“AI 对齐研究”方面取得突破,确保人 AI 对人类持续有益。AI 对齐是 AI 控制中的主要问题,即要求 AI 的目标和人类的价值观与意图保持一致。来源 , 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人