OpenAI 员工发表公开信 警示人工智能监管缺失风险

OpenAI员工发表公开信警示人工智能监管缺失风险美国开放人工智能研究中心（OpenAI）和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信，对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。据多家外媒援引信件报道，这些员工认为，人工智能企业受利益驱使缺乏有效监管，现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。（央视新闻）

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险称：OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年！这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作，为公开信背书的业内大佬则有“人工智能教父”GeoffreyHinton、因开创性AI研究而获得图灵奖的YoshuaBengio，以及AI安全领域的顶尖专家StuartRussell。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

OpenAI 员工发公开信警告 AI 风险，认为可能导致 “人类灭绝”

OpenAI员工发公开信警告AI风险，认为可能导致“人类灭绝”多家美国人工智能（AI）领域企业的在职和离职员工当地时间4日发表公开信，对这项新兴技术带来的风险表示担忧。据路透社5日报道，公开信的签署者包括美国AI初创企业OpenAI以及谷歌旗下“深层思维”公司的前员工和现员工，共计13人。公开信警告了不受监管的AI带来的风险，例如传播错误信息，AI系统独立性丧失，以及社会阶层不平等的加深。信中认为，这些风险可能导致“人类灭绝”，AI公司在与政府分享关键信息方面只尽到了“微弱的义务”，不能指望这些公司自愿分享信息。路透社称，这封公开信是行业内部对生成式AI技术提出安全担忧的最新案例。公开信敦促AI公司允许让在职和离职员工表达与行业风险相关的担忧。（环球时报）

多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管

多位人工智能专家和行业高管在公开信中呼吁加强对深度伪造的监管YoshuaBengio"如今，深度伪造往往涉及性图像、欺诈或政治虚假信息。由于人工智能发展迅速，使得深度伪造变得更加容易，因此需要采取保障措施，"该组织在信中说，这封信是由加州大学伯克利分校的人工智能研究员安德鲁-克里奇（AndrewCritch）撰写的。深度伪造（Deepfake）是由人工智能算法创建的逼真而又虚假的图像、音频和视频，最近的技术进步使它们与人类创建的内容越来越难以区分。这封题为"扰乱深度假货供应链"的信就如何监管深度假货提出了建议，包括将深度假货儿童色情制品完全定为刑事犯罪，对任何故意制造或协助传播有害深度假货的个人进行刑事处罚，以及要求人工智能公司防止其产品制造有害深度假货。截至本周三上午，已有来自学术界、娱乐界和政界等各行各业的400多人在信上签名。签名者包括哈佛大学心理学教授史蒂文-平克（StevenPinker）、两位爱沙尼亚前总统、GoogleDeepMind的研究人员和OpenAI的研究人员。自微软支持的OpenAI于2022年底推出ChatGPT以来，确保人工智能系统不危害社会一直是监管机构的首要任务。知名人士曾多次就人工智能风险发出警告，特别是埃隆-马斯克（ElonMusk）去年签署了一封信，呼吁暂停开发比OpenAI的GPT-4人工智能模型更强大的系统，为期六个月。...PC版：https://www.cnbeta.com.tw/articles/soft/1419951.htm手机版：https://m.cnbeta.com.tw/view/1419951.htm

OpenAI行政总裁称人工智能行业受监管是至关重要

OpenAI行政总裁称人工智能行业受监管是至关重要人工智能公司OpenAI行政总裁奥尔特曼，就人工智能会否构成安全风险，到美国国会参议院作证。OpenAI制作的ChatGPT，近期在人工智能界掀起热潮。该聊天应用程式可模拟人类方式书写文章、剧本、诗词，以及解决电脑的编码问题，引发监管机构关注涉及的私隐及法律等问题，希望在不扼杀创新的前提下，为人工智能发展设置围栏。奥尔特曼作证时表示，人工智能有潜力解决人类面对的最大挑战，例如气候变化及癌症治疗等，同时承认人工智能的进步，将对劳动力带来重大影响。他形容人工智能目前发展的方向及模型，依然是一种工具，而不是一种生物，但承认随著人工智能变得越来越强大，行业受政府监管是至关重要。被问到人工智能对音乐的影响时，奥尔特曼表示，内容创作者对于他们的声音、肖像或受版权保护的内容，如何被用作训练人工智能模型，应该有发言权。2023-05-1703:24:30(2)

【OpenAI CTO：ChatGPT和其他人工智能工具均应受到监管】

【OpenAICTO：ChatGPT和其他人工智能工具均应受到监管】2月6日消息，人工智能研究公司OpenAI首席技术官MiraMurati表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。当被问及像OpenAI这样的公司等机构是否有责任监管这一工具时，Murati说：“对OpenAI等公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”但她强调，公司还需要来自监管机构、政府甚至所有人的帮助。她补充说，现在对ChatGPT进行监管“并不算为时过早”。据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话和代码，并回答各类疑问。