OpenAI高层提议设立参考IAEA模式设立AI国际监管机构

OpenAI高层提议设立参考IAEA模式设立AI国际监管机构虽然这里有某种拍马屁的性质，但任何公正的观察者都清楚，这项技术，最明显的是OpenAI的爆炸性流行的ChatGPT对话机器人，代表了一种独特的威胁，也是一种宝贵的资产。文章在细节和承诺方面比较轻描淡写，但也承认人工智能不会自己管理自己：我们需要在领先的开发工作中进行某种程度的协调，以确保超级智能的发展以一种既能让我们保持安全又能帮助这些系统与社会顺利整合的方式进行。我们最终可能需要一个类似于[国际原子能机构]的机构来开展超级智能工作；任何超过一定能力（或计算等资源）门槛的努力都需要接受国际权威机构的检查，要求进行审计，测试是否符合安全标准，对部署程度和安全级别进行限制，等等。IAEA是联合国在核电问题上进行国际合作的官方机构，就像核不扩散监管一样，建立在这种模式上的人工智能管理机构可能无法进入并打开不良行为者的开关，但它可以建立并跟踪国际标准和协议，这至少是一个起点。OpenAI的帖子指出，跟踪用于人工智能研究的计算能力和能源使用情况是相对较少的客观措施之一，可以而且可能应该被报告和跟踪。虽然可能很难说人工智能应该或不应该被用于哪些领域，但说用于人工智能的资源应该像其他行业一样受到监督和审计可能是有价值的。(该公司也建议较小的AI公司可以豁免监管，以避免扼杀创新的绿芽）。领先的人工智能研究员和评论家TimnitGebru今天在接受《卫报》采访时说了类似的话："除非有外部压力要求做一些不同的事情，否则公司是不会自我监管的。我们需要监管，我们需要比单纯的利润动机更好的模式。"OpenAI明显接受了后者，这让许多希望它名副其实的人感到惊愕，但至少作为市场领导者，它也在呼吁在治理方面采取真正的行动--除了最近的听证会，参议员们排队发表连任演讲，文稿大多以问句结束。虽然该建议相当于"也许我们应该，比如，做一些事情"，但它至少是行业内的一个对话启动器，表明世界上最大的单一人工智能品牌和供应商支持做一些事情。迫切需要公共监督，但"我们还不知道如何设计这样一个机制"。虽然该公司的领导人说他们支持踩刹车，但现在还没有计划这样做，因为他们不想放弃"改善我们的社会"（更不用说底线）的巨大潜力，也因为有一种风险，即坏的行为者已经把他们的脚放在油门上。...PC版：https://www.cnbeta.com.tw/articles/soft/1361077.htm手机版：https://m.cnbeta.com.tw/view/1361077.htm

【调查报告：37%的专家认为美国应该为人工智能设立新的联邦机构】

【调查报告：37%的专家认为美国应该为人工智能设立新的联邦机构】2023年09月06日02点36分老不正经报道，Axios、GenerationLab和雪城大学进行的一项调查显示，多位专家认为美国应该成立一个新的联邦机构，专门负责人工智能治理。该报告针对人工智能相关主题对美国65所最负盛名的大学的215名计算机科学教授进行了调查。数据显示，当被问及“监管人工智能的最佳实体是什么”时，37%的受访者认为政府机构应该设立新的人工智能机构，22%的受访者选择全球组织或条约。只有16%的受访者选择国会。

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI正在组建一个新团队，以控制“超级智能”人工智能OpenAI正在组建一个由其首席科学家兼公司联合创始人之一IlyaSutskever领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。，Sutskever和OpenAI联盟团队的负责人JanLeike预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。”“我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”为了推动“超级智能对齐”领域的发展，OpenAI正在创建一个新的超级对齐团队，由Sutskever和Leike领导，该团队将有权使用公司迄今为止已获得的20%的计算资源。该团队由OpenAI之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能AI的核心技术挑战。——

联合早报｜河南招标设立监控系统追踪境外人士

中国河南省政府曾就设立监控系统项目进行招标，而这个系统据报将用来追踪记者、国际学生及其他可疑人物。据路透社前天报道，一旦官方关注的人物抵达河南，系统可以通过3000台连接到各个国家和地区数据库的面部识别摄像头，整理出个人档案。

欧盟监管机构：欧洲在人工智能竞赛中落后于美国和中国

欧盟监管机构：欧洲在人工智能竞赛中落后于美国和中国该监督机构表示：欧盟迄今为止在发展欧洲人工智能生态系统方面收效甚微，也未能与全球领先者同步加快人工智能投资。该报告发布的背景下，欧洲民众对欧盟经济低迷的担忧日益加剧，并呼吁精简官僚机构，放弃欧盟雄心勃勃的绿色协议议程，以推动工业产出。欧盟原本希望在蓬勃发展的人工智能领域占据世界领先地位，但周三的审计却对这一领域产生了不利影响。许多经济学家认为，人工智能将成为未来几年经济增长的主要动力。此次审计加剧了人们的担忧，即欧洲企业将无法在未来的市场上与美国和中国竞争，例如机器人、大数据、神经科学、云计算、高性能计算和光子学。事实上，该报告给人的印象是，欧盟可能会成为快速发展的人工智能领域的落后者，就像欧洲未能培育出能够与主导大型科技领域的美国和中国巨头相媲美的公司一样。首席审计员米哈伊尔斯·科兹洛夫斯在一份声明中表示：大规模、有针对性的人工智能投资将对未来几年欧盟经济增长的速度产生决定性的影响。他说：在人工智能竞赛中，存在着赢家通吃的风险。如果欧盟希望实现其雄心壮志，欧盟委员会和成员国必须更有效地联合起来，加快步伐，释放欧盟在这场正在进行的重大技术革命中取得成功的潜力。去年12月，欧盟通过了世界上第一部人工智能监管法规，这招致了赞扬和批评。欧盟的初衷是让欧盟成为人工智能伦理的标准制定者，但商界领袖警告称，这些法规将扼杀创新，而民权组织则表示，这些法律在保护隐私方面做得不够。审计法院在报告中指责欧盟委员会未能执行2018年制定的使欧盟成为人工智能领导者的计划。由于欧盟在风险投资方面落后于美国和中国，布鲁塞尔试图通过汇集其27个成员国的投资和资源来弥补差距。但审计人员表示，协调和规范欧盟对人工智能投资的框架仍在制定中。审计发现，2018年至2020年间，美国和欧盟在人工智能方面的总体投资差距扩大了一倍多，欧盟落后108多亿美元。通过分析2021年的数据，审计人员指出，欧洲和中亚仅占全球人工智能专利申请量的4%，远远落后于北美（17%）以及占专利总量62%的东亚和太平洋地区。审计还发现，欧盟的人工智能计划迄今为止仅为创新者提供了适度的欧盟资本支持（如股权融资）。报告指出，欧盟将所有27个欧盟国家合并为单一数据市场”的努力“仍处于起步阶段，无法立即促进人工智能投资。审计报告称，建立这样的市场将允许数据在欧盟内部和跨部门自由流动，使企业、研究人员和公共行政部门受益。欧盟对数据隐私有着严格的规定，这一规定阻碍了公司和人工智能研究人员共享和收集数据的能力。在国家层面，审计发现，保加利亚、克罗地亚、希腊和罗马尼亚这四个欧盟国家未能在2023年中期之前制定人工智能战略，而这比欧盟规定的最后期限晚了四年。审计还指出，许多欧盟国家未能按照欧盟计划设定人工智能支出目标。然而，委员会受到的批评最多。审计人员发现，委员会存在多项缺陷，其中包括没有对其人工智能计划进行年度审查。委员会周三表示，已与审计人员合作起草该报告，并采取措施加强监督。它还宣布开设一个新办公室，致力于执行《人工智能法案》并带头推动欧盟推动人工智能的发展。委员会表示，人工智能办公室将确保在欧洲制造并通过欧盟超级计算机训练的人工智能通用模型得到微调并集成到整个经济的新应用中，从而刺激投资。委员会补充说，它已向想要训练其人工智能模型的欧洲人工智能初创企业开放欧洲的超级计算机，此举旨在鼓励人工智能研究。今年1月，欧盟委员会宣布了一项新的43亿美元人工智能投资计划。这是欧盟每年资助的10.8亿美元人工智能研究项目之外的又一项投资。欧盟希望每年吸引超过210亿美元的人工智能投资。相比之下，审计报告称，美国在2022年花费了33亿美元用于人工智能研究。审计报告没有透露中国在人工智能上花费了多少资金；据报道，北京方面对其国家资助人工智能的信息基本保密。...PC版：https://www.cnbeta.com.tw/articles/soft/1432858.htm手机版：https://m.cnbeta.com.tw/view/1432858.htm

中国将设立新的数据治理最高监管机构，将把所有与数据相关的问题置于一个机构监管之下

中国将设立新的数据治理最高监管机构，将把所有与数据相关的问题置于一个机构监管之下新加坡——随着北京寻求解决企业的数据安全问题并简化其监管结构，中国将成立一个新的政府机构来集中管理该国海量数据。知情人士说，新的国家数据局将成为中国处理各种数据相关问题的最高监管机构，这将改变目前多部委共同监管的结构。他们说，建立该机构的计划预计将在全国人民代表大会年度会议期间进行讨论和批准，该会议将持续到3月13日。他们说，如果成立，该机构将决定跨国公司是否可以出口其在中国业务产生的数据。他们说，它还将为企业制定和执行数据收集和共享规则。例如，它可以禁止公司收集某些类型的消费者数据，或者审查国内公司计划与外国商业伙伴共享的数据，以检查是否存在潜在的国家安全漏洞。知情人士说，新的数据监管机构还将调查数字领域的各种问题，例如使用算法进行数据操纵或诱导未成年人上网成瘾，以及识别容易受到网络攻击的数据安全漏洞。代表中国政府处理媒体查询的全国人民代表大会和国务院新闻办公室没有回应置评请求。——