美国国防部成立生成式人工智能工作组Lima 确保技术领先地位

美国国防部成立生成式人工智能工作组Lima确保技术领先地位根据五角大楼的一份声明，Lima将评估、同步、应用整个国防部的生成式人工智能能力，以确保在维护国家安全的同时，使美国在这一技术领域保持世界领先地位。美国国防部首席数字和人工智能官兼特别工作组组长CraigMartell表示，“五角大楼必须负责任地寻求使用生成式人工智能模型，同时降低国家安全风险。”他补充道，“我们必须考虑我们的对手将在多大程度上应用AI技术，并寻求破坏我们自己对基于人工智能的解决方案的使用。”根据世界经济论坛的说法，生成式人工智能是“一类人工智能算法，可以根据训练时输入的数据生成新的输出数据。”这一技术具有广泛应用，除了像ChatGPT聊天、创建文本，还可以创建音频、图像等。五角大楼表示，生成式人工智能模型可以加强美国在战争、战备、卫生健康以及政策领域的能力。美国海军上校M.XavierLugo表示：“五角大楼认识到了生成式人工智能在显著改善情报、作战计划以及行政和业务流程方面的潜力。”然而，对这一技术负责任地实施，是有效管理相关风险的关键。根据美国总统拜登8月9日签署的行政令，美国政府对中国可能将人工智能技术运用于军事越来越警惕，并宣布计划限制美国资本对中国半导体、量子计算、人工智能领域的投资。美国声称中国这些领域能力的增强，有可能威胁到美国的安全。总部位于华盛顿的智库“新美国安全中心”最新的一份报告显示，人工智能技术应用于军事领域，可能会加剧中美之间的竞争，并增加战略风险。报告称，“在短期和中期，人工智能将带来的大部分变化都将是渐进、小范围的。但从长期来看，有些变化可能是革命性的、普遍的。”人工智能应用于军事的风险正在全球引发讨论。在今年2月的一次会议上，包括中国、美国在内的60多个国家签署了一份“行动呼吁书”，倡导在军事领域负责任地使用人工智能。...PC版：https://www.cnbeta.com.tw/articles/soft/1376379.htm手机版：https://m.cnbeta.com.tw/view/1376379.htm

【美国民主党众议员成立人工智能工作组】

【美国民主党众议员成立人工智能工作组】2023年08月16日01点45分老不正经报道，美国民主党众议员成立了一个人工智能工作组，目的是推动人工智能新法规的立法。该工作组有97名成员，将与政府、企业和两党立法者合作，制定有关这项新兴技术的双党政策。该工作组的首要任务是打击错误信息的传播，并对网上日益盛行的高级人工智能生成的深度伪造信息表示担忧。工作组主席DerekKilmer表示，AI生成的虚假信息日益严重，需要国会迅速采取行动应对。

NIST 推出评估生成式人工智能的新平台

NIST推出评估生成式人工智能的新平台NIST在新推出的NISTGenAI网站和一份新闻稿中解释说，NISTGenAI将发布基准，帮助创建"内容真实性"检测（即深度验假）系统，并鼓励开发软件来识别人工智能生成的虚假或误导性信息的来源。"NISTGenAI计划将发布一系列挑战问题，[旨在]评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的策略，并指导安全、负责任地使用数字内容"。NISTGenAI的第一个项目是一项试点研究，目的是建立能够可靠区分人类创建的媒体和人工智能生成的媒体的系统，首先从文本开始。(虽然许多服务都声称可以检测深度伪造，但研究和测试表明，它们充其量只能说是不可靠的，尤其是在文本方面）。NISTGenAI邀请学术界、工业界和研究实验室的团队提交"生成器"（生成内容的人工智能系统）或"鉴别器"（旨在识别人工智能生成内容的系统）。研究中的生成器必须生成250字或更少的摘要，提供一个主题和一组文档，而判别器必须检测给定摘要是否可能是人工智能编写的。为确保公平，NISTGenAI将提供测试生成器所需的数据。NIST表示："以公开数据训练的系统如果不"遵守适用的法律法规"，将不被接受。试点登记将于5月1日开始，第一轮两家计划于8月2日结束。预计研究的最终结果将于2025年2月公布。在人工智能生成的错误信息和虚假信息呈指数级增长之际，NISTGenAI启动了以深度伪造为重点的研究。根据深度假货检测公司Clarity的数据，与去年同期相比，今年制作和发布的深度假货数量增加了900%。这引起了人们的恐慌，这是可以理解的。YouGov最近的一项民意调查发现，85%的美国人担心误导性的深度假新闻会在网上传播。NISTGenAI的启动是NIST响应乔-拜登总统关于人工智能的行政命令的一部分，拜登总统的行政命令规定，要求人工智能公司在其模型如何工作方面提高透明度，并制定了一系列新标准，包括对人工智能生成的内容进行标注。这也是NIST在任命前OpenAI研究员保罗-克里斯蒂亚诺（PaulChristiano）为该机构的人工智能安全研究所成员后，首次发布与人工智能相关的消息。克里斯蒂亚诺因其"现实主义"观点而备受争议；他曾预言，"人工智能的发展有50%的可能以[人类毁灭]而告终"。据报道，包括美国国家标准与技术研究院（NIST）科学家在内的批评人士担心，克里斯蒂亚诺可能会鼓励人工智能安全研究所关注"幻想的场景"，而不是现实的、更直接的人工智能风险。NIST表示，NISTGenAI将为人工智能安全研究所的工作提供参考。...PC版：https://www.cnbeta.com.tw/articles/soft/1429139.htm手机版：https://m.cnbeta.com.tw/view/1429139.htm

中国将对生成式人工智能服务实行包容审慎和分类分级监管

中国将对生成式人工智能服务实行包容审慎和分类分级监管中国国家网信办等七个部门联合公布《生成式人工智能服务管理暂行办法》，对生成式人工智能服务实行包容审慎和分类分级监管。据“网信中国”微信公号7月13日消息，中国国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自今年8月15日起施行。网信办有关负责人说，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。网信办负责人说，近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。《办法》提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。《办法》规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。《办法》提到，行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。网信办负责人说，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

北京师范大学发布 “生成式人工智能科技伦理报告”

北京师范大学发布“生成式人工智能科技伦理报告”北京师范大学互联网发展研究院重磅发布了《向善而“生”——生成式人工智能技术发展中的科技伦理框架研究报告》。该报告是当前国内从社会伦理和社会治理视角，对生成式人工智能技术发展与应用开展全面深入研究的重要成果。报告梳理了生成式人工智能带来的发展新机遇、主要应用场景、技术运行逻辑、内在风险机理，分析了生成式人工智能可能带来的社会风险与科技伦理挑战，并对包容创新发展、引导科技向善提出了相应的政策建议。

Visa 拨出 1 亿美元投资生成式人工智能公司

Visa拨出1亿美元投资生成式人工智能公司Visa今天宣布，计划向开发生成式人工智能技术和应用程序的公司投资1亿美元，“这将影响商业和支付的未来”。这些投资将通过VisaVentures进行，该公司是该信用卡巨头拥有16年历史的全球企业投资部门。Visa声称自1993年以来一直是“人工智能在支付领域应用的先驱”。对于不熟悉的人来说，生成式人工智能是人工智能的一个新兴子集，它在大量现有数据上进行训练，在给出文本提示时生成文本、图像或其他内容。Source:投稿：@ZaiHuaBot频道：@TestFlightCN