大型人工智能公司同意打击虐待儿童图像

大型人工智能公司同意打击虐待儿童图像 谷歌、Meta、OpenAI、微软和亚马逊等科技公司今天承诺审查其人工智能训练数据中的儿童性虐待内容 (CSAM)，并将其从任何未来模型中删除。这些公司签署了一套旨在限制 CSAM 扩散的新原则。他们承诺确保训练数据集不包含 CSAM，避免使用包含 CSAM 的高风险数据集，并从数据源中删除 CSAM 图像或指向 CSAM 的链接。这些公司还承诺对人工智能模型进行“压力测试”，以确保它们不会生成任何 CSAM 图像，并且只发布经过儿童安全评估后的模型。其他签署者包括 Anthropic、Civita、Metaphysical、Mistral AI 和 Stability AI。

Google 宣布在Gmail、Docs等中推出人工智能功能，以与微软竞争

Google 宣布在Gmail、Docs等中推出人工智能功能，以与微软竞争 宣布了一系列即将推出的生成式人工智能功能，用于其各种工作空间应用程序，包括谷歌Docs、Gmail、Sheets和Slides。 标签: #Google #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen 3迎来升级 Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯（Demis Hassabis）说，与前代产品Imagen 2相比，Imagen 3能更准确地理解文字提示，并将其转化为图像，而且在生成图像方面更具"创造性和细节"。此外，该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说："这也是我们目前渲染文本的最佳模型，而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧，Google表示，Imagen 3 将使用 DeepMind 开发的SynthID 方法，在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册 Imagen 3 的私人预览版，Google表示，该模型将"很快"提供给使用Google企业生成式人工智能开发平台 Vertex AI 的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源，这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据，特别是未经内容创作者许可的受版权保护的数据，是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据，包括照片和视频。但是，Google并没有提供"退出"工具，而且与某些竞争对手不同的是，Google并没有承诺对权利人（在某些情况下是在不知情的情况下）为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶，但令人失望的尤其是像Google这样拥有丰富资源的公司。 ... PC版： 手机版：

Google推出人工智能图像生成工具TextFX

Google推出人工智能图像生成工具TextFX Google在一篇博文中写道："ImageFX 专为实验和创意而设计，它可以让你通过简单的文字提示来创建图片，然后通过使用表现力芯片的新提示方式轻松修改图片。"Google声称，它已采取措施确保 TextFX 不会被以非预期的方式使用，例如通过添加"技术保障"来限制"有问题的输出"，如暴力、攻击性和色情内容。TextFX 还为"指定人物"（可能是公众人物）设置了一个提示级过滤器尽管Google在其新闻材料中并没有特别明确这一点。"我们从一开始就对训练数据的安全性进行了投资，"Google说。"根据我们的人工智能原则，我们还进行了广泛的对抗性测试和红队合作，以识别和减少潜在的有害和有问题的内容"。作为一项额外的安全措施，Google在使用ImageFX制作的图片上标注了SynthID数字水印，据称这种数字水印对图片编辑和裁剪具有很强的抵御能力。Google在博文中继续介绍道："SynthID 水印肉眼无法察觉，但可用于识别。通过'关于此图片'中增加的洞察力，当你在Google搜索或 Chrome 浏览器中看到一张图片时，你就会知道它是否可能是由Google的人工智能工具生成的。"你可以在Google用于人工智能实验项目的网络应用程序 AI Test Kitchen 中找到 ImageFX。Imagen 2 扩展在今天的相关新闻中，Google表示，从本周开始，它将把 Imagen 2 带到更多的产品和服务中，包括下一代人工智能搜索体验和人工智能托管服务 Vertex AI 系列。现在，Imagen 2 还支持Google广告中的文本到图片功能和Google GenAI 生产力产品套件 Workspace 中的 Duet AI，它已经进入了Google的 SGE（搜索生成体验）。SGE 于去年 10 月开始在Google图片搜索中为用户提供图片生成工具，现在则利用 Imagen 2 生成图片。用户可以输入一个提示，说明他们想要什么样的图片，SGE 会在 SGE 对话体验中直接返回四个结果。Imagen 2 的另一个样本在 Vertex AI 中，Imagen 2 可通过 API 提供给Google云客户。在其他地方，Imagen 2 现在可以通过Google的人工智能聊天机器人 Bard 调用。Google解释说："有了Imagen 2，Bard可以理解简单或复杂的提示，这样你就可以生成一系列高质量的图像。只需输入一个描述比如'创建一个狗骑冲浪板的图像'Bard就会生成定制的、范围广泛的视觉图像，帮助你把想法变为现实。"Google仍未透露用于训练 Imagen 2 的数据，这并不令人意外。像Google这样的 GenAI 供应商是否可以在公开数据（甚至是受版权保护的数据）上训练模型，然后再将该模型商业化，这是一个未决的法律问题。相关诉讼正在法院审理中，供应商认为他们受到合理使用原则的保护。但尘埃落定尚需时日。与此同时，Google对此事保持沉默，以策安全。 ... PC版： 手机版：

FBI逮捕一名利用AI生成儿童性虐待图像并传播的男子

FBI逮捕一名利用AI生成儿童性虐待图像并传播的男子 司法部在周一的一份公告中说："这些图像中有许多描绘了裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器，或与男性发生性关系。从安德雷格的电子设备中找到的证据显示，他利用与未成年人有关的特定、露骨的文字提示生成了这些图片，然后将其存储在自己的电脑中。"据称，他随后与一名 15 岁的男孩进行了交流，描述了自己创建图片的过程，并通过 Instagram 的直接消息向他发送了几张人工智能生成的未成年人图片。在一些信息中，安德雷格告诉 Instagram 用户，他使用 Telegram 发布人工智能生成的 CSAM。法庭记录指控说："他通过 Instagram 和 Telegram 积极建立了一个由臭味相投的犯罪者组成的在线社区，在这个社区里，他可以炫耀他对未成年人的淫秽描绘，并与这些其他犯罪者讨论他们对儿童的共同性兴趣。换句话说，他利用这些 GenAI 图像来吸引其他罪犯，这些罪犯可以将他对儿童的性兴趣正常化并加以确认，同时助长这些罪犯和他自己看到未成年人遭受性虐待的兴趣。"这标志着联邦调查局首次指控某人利用人工智能制作儿童性虐待材料。今年 3 月，威斯康星州警方指控安德雷格两项"让儿童接触有害材料"的罪名，以及另一项"与 13 岁以下儿童发生性接触"的罪名，但他拒绝认罪。根据福布斯当时的报道。警长的副手在一份宣誓书中说，安德雷格在网上接受其他人的请求，生成青少年的人工智能图像，现今人工智能色情市场已经成为 滥用图像制造商的大生意.公告指出，安德雷格之所以落网，是因为 Instagram 向国家失踪与被剥削儿童中心报告了他的账户传播图片的行为。法庭记录称，"他的笔记本电脑里有 13000 多张 GenAI 图像，其中数百张（如果不是数千张的话）描绘了未成年裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器。还有一些图片描绘了未成年少女触摸看似成年男性的阴茎或进行性交的画面。笔记本电脑中的其他证据表明，他使用了极其具体和明确的提示来创建这些图像。同样，他还使用了特定的'负面'提示，即指导 GenAI 模型在生成的内容中不包含哪些内容的提示，以避免生成描绘成年人的图像"。此前媒体报道了Stable Diffusion生成儿童性虐待材料的能力，以及生成式人工智能公司承认其用户可能使用其工具制作 CSAM 的情况，尽管官方已经使用"负面提示"来避免创建成人人工智能图像的情况。这个案例证明了在线虐童问题专家几个月前警告过的问题，当时LAION-5B 数据集被发现包含疑似儿童性虐待图像。专家曾警告过：即使在人工智能生成的图像中无法识别真实的儿童，性剥削者者也可能利用生成的图像来诱骗真实的儿童。首席副助理司法部长 Nicole M. Argentieri 在联邦调查局的一份新闻稿中说："今天的公告传达了一个明确的信息：使用人工智能制作儿童色情图片是非法的，司法部将毫不犹豫地追究那些拥有、制作或传播人工智能生成的儿童性虐待材料的人的责任。"安德雷格被联邦拘留，等待定于 5 月 22 日举行的拘留听证会。 ... PC版： 手机版：

谷歌将生成式人工智能引入 Google 地图

谷歌将生成式人工智能引入 Google 地图 当地时间2月1日，谷歌宣布推出使用生成式人工智能来发现地点的新方法。只需用户说出要寻找的内容 (无论是多么具体、独特或广泛)，谷歌的大语言模型 (LLM) 就会分析 Google 地图上超过 2.5 亿个地点的详细信息以及来自超过 3 亿贡献者的社区的可信见解，从而快速提出去哪里的建议。这项早期访问实验将于本周在美国启动。