OpenAI 呼吁设立监管超级智能的国际机构

OpenAICEOSamAltman、总裁GregBrockman和首席科学家IlyaSutskever通过官方博客呼吁设立监管超级智能的国际机构。“我们最终可能需要类似于IAEA（国际原子能机构）的东西来进行超级智能方面的努力；任何超过一定能力（或计算等资源）门槛的努力都需要接受国际权威机构的检查，要求进行审计，测试是否符合安全标准，对部署程度和安全级别进行限制，等等。追踪计算和能源使用情况会有很大的帮助，并给我们一些希望，这个想法实际上是可以实现的。作为第一步，公司可以自愿同意开始实施这样一个机构有朝一日可能要求的要素，而作为第二步，各个国家可以实施。重要的是，这样一个机构应专注于减少存在的风险，而不是那些应该留给各个国家的问题，例如定义人工智能应该被允许说什么。”()()频道：@TestFlightCN

OpenAI开发者建议 美国政府立新机构监管AI发展

OpenAI开发者建议美国政府立新机构监管AI发展先进聊天机器人ChatGPT创始人呼吁美国立法者规范人工智能（AI）的发展和应用。英国广播公司（BBC）报道，美国人工智能公司OpenAI总裁奥特曼（SamAltman）星期二（5月16日）出席参议院司法委员会的听证会，就ChatGPT的潜力和陷阱作证。在OpenAI开发ChatGPT后的短短几个月内，市场上就出现了好几款这类AI模型。38岁的奥特曼说，美国政府应该成立一个新的机构，为人工智能公司颁发许可证。ChatGPT和其他类似的AI程序可以创建极度像人类的答案，但它们在回答问题时，也可能提供大错特错的答案。现已俨然成为AI聊天机器人代言人的奥特曼并没有回避人工智能引发的伦理问题，并推动政府进行更多监管。奥特曼说，人工智能的潜力可能和印刷业技术一样巨大，但他也承认人工智能有潜在的危险。他还承认人工智能可能对经济产生的影响，包括，导致某些领域裁员。奥特曼说：“这将冲击就业机会。我们尽可能非常明白地坦承这一点。”奥特曼也对人工智能对民主的潜在影响，以及在选举期间可能被用来发送有针对性的错误信息，表示担忧。他对成立一个针对人工智能的新机构可以如何监管AI聊天机器人提出了几项建议，包括发放或取消人工智能公司的许可证。他也认为，像OpenAI这样的公司应该接受独立审计。共和党参议员霍利说，AI聊天机器人可能具有革命性，但这项新技术也像原子弹的发明。民主党参议员布卢门撒尔说，由AI聊天机器人主导的未来“不一定是我们想要的未来”。他警告说：“我们需要最大限度地利用它的好处而不是它的坏处。国会现在可以做出一个选择。我们在社交媒体面世时也面对了选择。我们已错过一次机会。”出席星期二听证会的两党参议员明显都支持成立一个新机构来监管AI聊天机器人这一新兴行业。然而，技术发展日新月异，立法者对于新机构能否赶得上先进技术的发展仍心存疑问。

AI应该如何被监管？业内辩论升级 谷歌和OpenAI存严重分歧

AI应该如何被监管？业内辩论升级谷歌和OpenAI存严重分歧但Google则不希望AI监管一切都由政府统领，该公司更倾向于“多层次、多利益相关者的AI治理方法”。AI领域的其他人，包括研究人员，也表达了和Google类似的观点，称政府部门对AI进行监管可能是保护边缘化社区的更好方式——尽管OpenAI认为技术进步太快无法采用这种方法。Google称：在国家层面，我们支持中心辐射式方法——由美国国家标准与技术研究院（NIST）等中央机构通知部门监管机构监督AI实施——而不是一个“人工智能部门”。AI将在金融服务、医疗保健和其他受监管的行业带来前所未有的挑战，这些挑战将由具有这些行业经验的监管机构来应对，而不是一个新的、独立的部门来监管。华盛顿大学计算语言学实验室教授兼主任EmilyM．Bender说：我完全同意所谓的AI系统不应该在没有某种认证程序的情况下部署。但是这个过程应该取决于系统的用途。现有的监管机构应保持其管辖权和决定权。Google的这一观点与OpenAI和微软偏爱更集中的监管模式形成鲜明对比。微软总裁BradSmith表示，他支持组建一个新的政府机构来监管人工智能，而OpenAI的创始人们也公开表达了他们的愿景，即组建一个类似国际原子能机构的组织来监管AI。Google全球事务总裁KentWalker表示，他“不反对”由新监管机构监督大型语言模型许可的想法，但表示政府应该“更全面地”看待这项技术。Google和微软在监管方面看似相反的观点表明人工智能领域的争论越来越多，争论远远超出了技术应该受到多少监管的范畴。今年5月，美国副总统哈里斯在会见了AI界重要公司的领导人后称，这项技术“有可能极大地增加对安全和安保的威胁，侵犯公民权利和隐私，并侵蚀公众对民主的信任和信心”。她补充说，企业有责任遵守现有的法律，以及“伦理、道德和法律责任，以确保其产品的安全和保障”。...PC版：https://www.cnbeta.com.tw/articles/soft/1365165.htm手机版：https://m.cnbeta.com.tw/view/1365165.htm

OPENAI 扩大游说团队以影响监管

OPENAI扩大游说团队以影响监管OpenAI正在建立一支国际游说团队，试图影响那些正在加强审视强大人工智能的政界人士和监管者。该公司向记者表示，已将其全球事务团队的员工人数从2023年初的3人增至35人。目标是到2024年底将这一数字增加到50。OpenAI负责政府事务的副总裁安娜•马坎朱表示：“我们切入的角度并不是我们只需打入内部并阻止监管……因为我们的目标不是利润最大化，而是确保通用人工智能(AGI)造福全人类。”全球事务部战略性地定位于人工智能立法先进的地区。这包括在比利时、英国、爱尔兰、法国、新加坡、印度、巴西和美国派驻员工。——

【OpenAI收到日本监管机构关于数据收集的警告】

【OpenAI收到日本监管机构关于数据收集的警告】2023年06月02日07点57分老不正经报道，在日本当地隐私监管机构就其数据收集方法向ChatGPT母公司发出警告后，日本官员开始收紧对人工智能(AI)的立场。6月2日，日本个人信息保护委员会发表声明，要求OpenAI尽量减少为机器学习目的收集的敏感数据量。此外，它强调未经人们许可不得这样做。该委员会还强调需要平衡其隐私问题与留出空间来促进AI的潜在好处，例如推动创新。

【OpenAI称ChatGPT应受到监管：ChatGPT或被坏人利用】

【OpenAI称ChatGPT应受到监管：ChatGPT或被坏人利用】人工智能研究公司OpenAI首席技术官米拉·穆拉蒂(MiraMurati)表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。当被问及像OpenAI这样的公司等机构是否有责任监管这一工具时，穆拉蒂说：“对OpenAI等公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”但她强调，公司还需要来自监管机构、政府甚至所有人的帮助。穆拉蒂补充说，现在对ChatGPT进行监管“并不算为时过早”。