英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会16家企业签署AI安全承诺中国入列去年11月，英国召开首届全球AI安全峰会，有近30个国家的官方代表，以及超过80个学术研究机构、企业和公民组织与会。今年5月，英国与南韩合办在线峰会，规模较小，下一场实体峰会则由法国主办，明年召开。根据英国科学创新暨科技部（DSIT）释出的资料，峰会尚未正式展开，已有16家AI科技企业签署安全承诺，要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构，以及向大众揭露各企业对前沿AI（frontierAI）科技安全的应处策略。这16家签署“前沿AI安全承诺”（FrontierAISafetyCommitments）的企业包括OpenAI、亚马逊（Amazon）、Google（Google）及其旗下DeepMind、Meta、马斯克（ElonMusk）去年创办的xAI、微软（Microsoft）、IBM。另外还有三星电子（SamsungElectronics）、Anthropic、InflectionAI、MistralAI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”（TechnologyInnovationInstitute）等。英国科技部指出，这16家企业名单包含AI两大强权：美国和中国。科技部表示，这些企业将各自发布AI安全框架，向大众说明未来将如何测算自家前沿AI模型的安全风险，包括遭恶意行为者滥用的风险，以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下，若企业在采取补救措施后，仍未能将AI模型或系统的安全风险保持在门坎以下，则不得继续发展或进一步部署该模型或系统。英国科技部指出，在订定前沿AI安全风险门坎时，相关企业已承诺将寻求“受信任行为者”的意见，包括本国政府（前提为若情况适当）。根据议程，英国首相苏纳克（RishiSunak）和南韩总统尹锡悦，以及英国科技大臣唐萃兰（MichelleDonelan）和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。...PC版：https://www.cnbeta.com.tw/articles/soft/1431785.htm手机版：https://m.cnbeta.com.tw/view/1431785.htm

领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺英国和韩国政府宣布，领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的OpenAI和马斯克的xAI以及中国开发商智谱AI，这些公司将发布框架，概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕，两国政府在峰会开幕前表示，这些公司承诺，如果无法缓解严重风险，他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前，以及在训练之前和期间。”——

AI巨头“自控”条例承诺确保产品安全 拜登放话必须警惕AI威胁

AI巨头“自控”条例承诺确保产品安全拜登放话必须警惕AI威胁在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面，他们承诺要尽量降低AI技术带来的风险。美东时间7月21日周五，白宫公布，拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。白宫称，政府目前在指定一项总统行政令，寻求两党达成立法议案，帮助引导国内开展负责任的创新活动。上述七家公司公布的具体承诺内容如下：在对公众发布产品前，先确保产品安全。企业承诺，在发布AI系统前，先进行内部和外部的安全测试；全行业共享有关管理AI风险的信息，也对政府、民间的社会和学术界分享这些信息。打造AI系统时，将安全放在第一位。企业承诺，投资针对网络安全和内部人士威胁的防护措施，保护专有的和未发布的模型权重；推动第三方发现及报告企业AI系统的漏洞。赢得公众的信任。企业承诺，推出强大的技术机制，确保用户知道内容何时由AI生成，例如水印系统；公开报告企业AI系统的功能、局限性、适当和不当使用的领域，包括将覆盖安全风险和社会风险，例如在公平和偏见方面的影响。企业承诺，优先研究AI系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私；开发及部署先进的AI系统，帮助解决最严重的社会问题。上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。发布承诺后，拜登周五表示，这些承诺是切实的，将帮助AI行业履行对国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会。拜登说，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。白宫的幕僚长JeffZients同日称，这是一个不断变化的目标。不但必须执行和落实这些企业的承诺，还必须随着技术的变革，厘清下一轮的承诺。...PC版：https://www.cnbeta.com.tw/articles/soft/1372363.htm手机版：https://m.cnbeta.com.tw/view/1372363.htm

AI监管立法在望？美参院峰会召集大佬热议

AI监管立法在望？美参院峰会召集大佬热议马斯克在出席峰会后表示，该峰会的强烈共识是，应当针对AI出台一定程度的监管措施。舒默会后称，国会立法监管AI只需要数月时间，而不是长达数年之久。媒体称，舒默试图让国会对AI的未来有更大的影响力，本周三的闭门峰会是他践行这一策略的部分行动。本次到会的大多数科技业领导者都曾敦促政府，专注于为AI的使用方式制定法规，而不是规管AI技术的实际开发。媒体指出，这场峰会将影响未来如何监管AI，出席的科技业大佬合计身家约有5500亿美元。其中包括，个人资产净值2421亿美元的特斯拉CEO马斯克、个人资产1286亿美元的微软联合创始人比尔•盖茨、个人资产1.097亿美元的MetaCEO扎克伯格、个人财富400亿美元的英伟达CEO黄仁勋、个人财富266亿美元的前GoogleCEO施密特。周三当天，AI概念股涨跌各异。到收盘时，亚马逊涨近2.6%，微软涨1.3%，Meta涨1.1%，Google母公司Alphabet涨1%，Palantir涨不足0.1%，而BigBear.ai跌超6%，GuardforceAI跌3%，BullfrogAI跌2.2%，赛富时跌近1.3%，C3.ai跌近1.2%，百度跌0.4%，SoundHound.ai收平。周三召开AI峰会前，多家科技巨头已经发出了自愿管控AI风险的承诺。7月，在白宫“指示”下，美国AI巨头“自我管控”的条例浮出水面。白宫宣布，拜登政府得到了亚马逊、Anthropic、Google、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。拜登曾指出，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。本周二白宫发布声明称，Adobe、Cohere、IBM、英伟达、Palantir、赛富时、ScaleAI和Stability八家公司承诺，采取自愿监管措施管理AI技术开发风险。这些企业的具体承诺如下：确保AI产品在发布之前是安全的公司承诺在发布AI系统前进行内部和外部的安全测试。测试部分由独立专家进行，防范存在的重大AI风险，如生物安全和网络安全，以及其更广泛的社会影响。公司承诺与行业内外以及政府、社会和学术界分享管理AI风险的信息，包括：保障安全的最佳实践方法、试图规避保障措施的信息以及技术合作。构建把安全放在首位的系统公司承诺投资于网络安全和内部威胁保障措施，保护专有和未发布的模型权重。这些模型的权重是AI系统最重要的部分。公司一致认为，只有在认真考虑到安全风险的情况下，才能发布模型权重，这一点至关重要。公司承诺推进第三方发现和报告其AI系统存在的漏洞。有些问题可能在AI系统发布后仍然存在，而一个强大的报告机制能使这些问题被迅速发现并修复。赢得公众的信任公司承诺开发出强大的技术，确保用户知道内容是人工智能生成的，例如添加数字水印。这一行动既能充分发挥人工智能的创造力和生产力，又能减少网络诈骗的危险。公司承诺公开报告其AI系统的能力、限制以及适用和不适用的领域。报告将涵盖AI系统的安全风险和社会风险，如公平公正性以及偏见的影响。公司承诺优先研究AI系统可能带来的社会风险，包括避免极端的偏见和歧视，并保护用户隐私。AI的历史记录可以看出这些危险的潜在规模和普及程度，这些公司承诺推出可以减轻这些危险的AI。公司承诺开发和部署先进的AI系统，以帮助解决社会面临的最大挑战。从癌症到减缓气候变化，以及许多其他领域，如果AI风险得到管理，AI可以为所有人做出巨大贡献。白宫称，承诺仅为政府制定AI风险管理办法的一部分，政府将采取行政行动，并同国会合作出台针对AI的法规。帮助引导AI负责任的发展。...PC版：https://www.cnbeta.com.tw/articles/soft/1383795.htm手机版：https://m.cnbeta.com.tw/view/1383795.htm

【美国白宫：英伟达等八家公司自愿承诺管理AI风险 包括展开安全测试、添加数字水印等】

【美国白宫：英伟达等八家公司自愿承诺管理AI风险包括展开安全测试、添加数字水印等】2023年09月12日07点32分老不正经报道，美国白宫9月12日发布声明称，当日，美国商务部长雷蒙多等政府高官将在白宫召集AI行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、ScaleAI和Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

拜登誓言防范AI风险：巨头们自愿承诺还不够 政府将采取更多行动

拜登誓言防范AI风险：巨头们自愿承诺还不够政府将采取更多行动他还详细介绍了新的公司保障措施。此前不久，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现AI技术安全、可靠和透明的发展。公告中称，这些公司做出的自愿承诺强调了AI未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。拜登说，“这些承诺是真实而具体的。他们将帮助该行业履行对美国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会，维护我们的价值观。”拜登指出，公司的措施只是第一步，并承诺采取行政行动，同时与国会合作制定有关人工智能的规章制度。他说，“我们必须对这些威胁保持清醒和警惕。”拜登的助手说，人工智能一直是总统的首要任务，他经常在与顾问的会议上提出这个话题。他还指示内阁部长研究这项技术可能如何与他们的机构交叉。“这是一个不断变化的目标，”白宫幕僚长JeffZients在接受采访时说，“我们不仅要执行和实施这些承诺，而且随着技术的变化，我们还必须弄清楚下一轮的承诺。”Zients和其他政府官员表示，如果没有国会的立法，将很难跟上新兴技术的步伐，这些立法规定了更严格的规定，并包括为监管机构提供专门资金。拜登则强调，“他们将需要一些新的法律、法规和监督。”...PC版：https://www.cnbeta.com.tw/articles/soft/1372415.htm手机版：https://m.cnbeta.com.tw/view/1372415.htm