联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见国际妇女节前夕，联合国教科文组织7日发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架，同时私营企业应对偏见问题持续监测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama2等都属于此类。此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”（新华社）

谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN

Meta 推出独立的人工智能图像生成器，目前免费但只支持英文提示词

Meta推出独立的人工智能图像生成器，目前免费但只支持英文提示词Meta在网页上推出了一种新的、独立的生成式人工智能体验「」，它允许用户通过用自然语言描述图像来创建图像。新的人工图像生成器由Meta现有的Emu图像生成模型提供支持，可根据文本提示创建高分辨率图像。它目前对美国的英语用户免费使用，并且每个提示都会生成四个图像。——

亚马逊将在线上提供生成式人工智能免费课程

亚马逊将在线上提供生成式人工智能免费课程亚马逊表示，已有2100万人通过其课程接受了AWS云计算技能培训，希望到2025年有200万人使用其人工智能课程。亚马逊表示，人工智能岗位对人才的需求正在不断增加，企业愿意为拥有相关技能的人才支付更高的薪水，但这些课程也是为了推广亚马逊自己的人工智能产品。亚马逊将提供"非技术性"学习，向人们介绍生成式人工智能的基础、围绕人工智能的项目规划以及如何使用亚马逊的CodeWhisperer人工智能代码生成器。其余的课程将向人们介绍AWS机器学习和语言模型以及BedrockAI应用程序制造商，这将有助于亚马逊的人工智能技术在微软/OpenAI和Google等大公司中脱颖而出。对亚马逊免费课程感兴趣的人可以访问AWSEducate网站上的初始生成式人工智能培训和CodeWhisperer入门：https://aws.amazon.com/cn/education/awseducate/其余的免费课程，包括学习使用亚马逊的Transcribe语音到文本生成器，都在AWSSkillBuilder网站上：https://explore.skillbuilder.aws/learn/course/external/view/elearning/17090/amazon-transcribe-getting-started...PC版：https://www.cnbeta.com.tw/articles/soft/1398485.htm手机版：https://m.cnbeta.com.tw/view/1398485.htm

NIST 推出评估生成式人工智能的新平台

NIST推出评估生成式人工智能的新平台NIST在新推出的NISTGenAI网站和一份新闻稿中解释说，NISTGenAI将发布基准，帮助创建"内容真实性"检测（即深度验假）系统，并鼓励开发软件来识别人工智能生成的虚假或误导性信息的来源。"NISTGenAI计划将发布一系列挑战问题，[旨在]评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的策略，并指导安全、负责任地使用数字内容"。NISTGenAI的第一个项目是一项试点研究，目的是建立能够可靠区分人类创建的媒体和人工智能生成的媒体的系统，首先从文本开始。(虽然许多服务都声称可以检测深度伪造，但研究和测试表明，它们充其量只能说是不可靠的，尤其是在文本方面）。NISTGenAI邀请学术界、工业界和研究实验室的团队提交"生成器"（生成内容的人工智能系统）或"鉴别器"（旨在识别人工智能生成内容的系统）。研究中的生成器必须生成250字或更少的摘要，提供一个主题和一组文档，而判别器必须检测给定摘要是否可能是人工智能编写的。为确保公平，NISTGenAI将提供测试生成器所需的数据。NIST表示："以公开数据训练的系统如果不"遵守适用的法律法规"，将不被接受。试点登记将于5月1日开始，第一轮两家计划于8月2日结束。预计研究的最终结果将于2025年2月公布。在人工智能生成的错误信息和虚假信息呈指数级增长之际，NISTGenAI启动了以深度伪造为重点的研究。根据深度假货检测公司Clarity的数据，与去年同期相比，今年制作和发布的深度假货数量增加了900%。这引起了人们的恐慌，这是可以理解的。YouGov最近的一项民意调查发现，85%的美国人担心误导性的深度假新闻会在网上传播。NISTGenAI的启动是NIST响应乔-拜登总统关于人工智能的行政命令的一部分，拜登总统的行政命令规定，要求人工智能公司在其模型如何工作方面提高透明度，并制定了一系列新标准，包括对人工智能生成的内容进行标注。这也是NIST在任命前OpenAI研究员保罗-克里斯蒂亚诺（PaulChristiano）为该机构的人工智能安全研究所成员后，首次发布与人工智能相关的消息。克里斯蒂亚诺因其"现实主义"观点而备受争议；他曾预言，"人工智能的发展有50%的可能以[人类毁灭]而告终"。据报道，包括美国国家标准与技术研究院（NIST）科学家在内的批评人士担心，克里斯蒂亚诺可能会鼓励人工智能安全研究所关注"幻想的场景"，而不是现实的、更直接的人工智能风险。NIST表示，NISTGenAI将为人工智能安全研究所的工作提供参考。...PC版：https://www.cnbeta.com.tw/articles/soft/1429139.htm手机版：https://m.cnbeta.com.tw/view/1429139.htm

OpenAI 表示已开始训练新的旗舰人工智能模型

OpenAI表示已开始训练新的旗舰人工智能模型OpenAI周二表示，它已开始训练一种新的旗舰人工智能模型，该模型将取代驱动其流行在线聊天机器人ChatGPT的GPT-4技术。OpenAI在一篇博客文章中表示，希望新模型能够带来“更高水平的能力”，因为该公司致力于打造“通用人工智能”，即能够做任何人类大脑能做的事情的机器。新模型将成为人工智能产品的引擎，包括聊天机器人、类似于苹果Siri的数字助理、搜索引擎和图像生成器。——，