大型人工智能公司同意打击虐待儿童图像

大型人工智能公司同意打击虐待儿童图像 谷歌、Meta、OpenAI、微软和亚马逊等科技公司今天承诺审查其人工智能训练数据中的儿童性虐待内容 (CSAM)，并将其从任何未来模型中删除。这些公司签署了一套旨在限制 CSAM 扩散的新原则。他们承诺确保训练数据集不包含 CSAM，避免使用包含 CSAM 的高风险数据集，并从数据源中删除 CSAM 图像或指向 CSAM 的链接。这些公司还承诺对人工智能模型进行“压力测试”，以确保它们不会生成任何 CSAM 图像，并且只发布经过儿童安全评估后的模型。其他签署者包括 Anthropic、Civita、Metaphysical、Mistral AI 和 Stability AI。

Google 宣布在Gmail、Docs等中推出人工智能功能，以与微软竞争

Google 宣布在Gmail、Docs等中推出人工智能功能，以与微软竞争 宣布了一系列即将推出的生成式人工智能功能，用于其各种工作空间应用程序，包括谷歌Docs、Gmail、Sheets和Slides。 标签: #Google #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen 3迎来升级 Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯（Demis Hassabis）说，与前代产品Imagen 2相比，Imagen 3能更准确地理解文字提示，并将其转化为图像，而且在生成图像方面更具"创造性和细节"。此外，该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说："这也是我们目前渲染文本的最佳模型，而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧，Google表示，Imagen 3 将使用 DeepMind 开发的SynthID 方法，在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册 Imagen 3 的私人预览版，Google表示，该模型将"很快"提供给使用Google企业生成式人工智能开发平台 Vertex AI 的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源，这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据，特别是未经内容创作者许可的受版权保护的数据，是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据，包括照片和视频。但是，Google并没有提供"退出"工具，而且与某些竞争对手不同的是，Google并没有承诺对权利人（在某些情况下是在不知情的情况下）为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶，但令人失望的尤其是像Google这样拥有丰富资源的公司。 ... PC版： 手机版：

Google现在可为YouTube上的学术视频提供人工智能生成的测验

Google现在可为YouTube上的学术视频提供人工智能生成的测验 该公司表示，由于 Gemini 模型的长上下文功能，该功能甚至可以用于较长的教育视频，如讲座或研讨会。这些新功能将在美国部分Android用户中推出。在YouTube开始在其移动应用程序上试验人工智能生成的测验近一年后正式推出了人工智能测验。有了这些新功能，观众可以要求人工智能总结视频内容，或告诉你为什么视频内容很重要。如果你想测试自己的知识水平，可以要求人工智能就相关主题对你进行测验。然后，人工智能会给你出一道选择题。鉴于 YouTube 已成为教育内容的家园，新功能使其能够为学习者提供更加个性化的互动体验。Google是在推出基于 Gemini 微调学习模型的新系列 LearnLM 时宣布这一消息的。 ... PC版： 手机版：

Google开始在英国试用人工智能提供搜索结果

Google开始在英国试用人工智能提供搜索结果 虽然Google是最受欢迎的搜索引擎，但微软的竞争对手必应已经集成了其 Copilot 人工智能。但一些出版商担心，人工智能答案可能会减少网站的访问量。他们担心较长的聊天机器人式回复会满足用户的好奇心，而无需访问他们的网站，同时人工智能回复也会包含较少的链接和广告。Google称之为"搜索生成体验"的功能已在美国推出近一年，但仅限于通过Google实验室注册的用户。该公司表示，英国的实验将涉及从登录用户中挑选的"一小部分"英国搜索流量。此前，《金融时报》头版报道称，该公司正考虑在未来为一些高级人工智能搜索功能提供订阅服务。Google否认"正在研究或考虑推出无广告搜索体验"。帮助推动Google搜索领域人工智能生成工作的赫马-布达拉朱（Hema Budaraju）在接受BBC采访时说，Google的新搜索结果仍将显示链接和广告。她说，继续向创作者输送流量是"当务之急"，并声称人工智能驱动的搜索结果"实际上显示了更多指向更广泛来源的链接"，到目前为止，用户点击的来源范围也在扩大。人工智能生成的"概述"将只在回答某些询问时显示，目前的试验表明它们对这些询问很有帮助。Budaraju 女士说，搜索"如何去除油漆墙壁上的痕迹"就是一个有用的例子。但Google也意识到人工智能系统普遍存在的风险，即它们有时会生成有害、攻击性、显示种族或性别偏见或与事实不符的内容。这家科技巨头希望保持"信息质量"，并将"以负责任的方式投入大量的关注和精力"。因此，她说，Google选择让答案不那么流畅、更有限制，而是把重点放在准确性上。例如，它无法为所有查询生成人工智能答案，尤其是在没有足够的高质量信息源的情况下。如果用户在使用过程中遇到问题，可以向Google提出反馈意见。她说："我们会发现偏见和安全问题，""但我们的承诺是发现这些问题，然后投资使其变得更好"。该公司表示，到目前为止，美国用户反应积极，但如果试验成功，人工智能生成的搜索答案最终被数十亿人使用，可能会带来更多挑战。例如，研究人员指出，为大型人工智能系统提供计算动力需要大量电力。这就是以环境为代价的能源使用。 ... PC版： 手机版：

Google推出人工智能图像生成工具TextFX

Google推出人工智能图像生成工具TextFX Google在一篇博文中写道："ImageFX 专为实验和创意而设计，它可以让你通过简单的文字提示来创建图片，然后通过使用表现力芯片的新提示方式轻松修改图片。"Google声称，它已采取措施确保 TextFX 不会被以非预期的方式使用，例如通过添加"技术保障"来限制"有问题的输出"，如暴力、攻击性和色情内容。TextFX 还为"指定人物"（可能是公众人物）设置了一个提示级过滤器尽管Google在其新闻材料中并没有特别明确这一点。"我们从一开始就对训练数据的安全性进行了投资，"Google说。"根据我们的人工智能原则，我们还进行了广泛的对抗性测试和红队合作，以识别和减少潜在的有害和有问题的内容"。作为一项额外的安全措施，Google在使用ImageFX制作的图片上标注了SynthID数字水印，据称这种数字水印对图片编辑和裁剪具有很强的抵御能力。Google在博文中继续介绍道："SynthID 水印肉眼无法察觉，但可用于识别。通过'关于此图片'中增加的洞察力，当你在Google搜索或 Chrome 浏览器中看到一张图片时，你就会知道它是否可能是由Google的人工智能工具生成的。"你可以在Google用于人工智能实验项目的网络应用程序 AI Test Kitchen 中找到 ImageFX。Imagen 2 扩展在今天的相关新闻中，Google表示，从本周开始，它将把 Imagen 2 带到更多的产品和服务中，包括下一代人工智能搜索体验和人工智能托管服务 Vertex AI 系列。现在，Imagen 2 还支持Google广告中的文本到图片功能和Google GenAI 生产力产品套件 Workspace 中的 Duet AI，它已经进入了Google的 SGE（搜索生成体验）。SGE 于去年 10 月开始在Google图片搜索中为用户提供图片生成工具，现在则利用 Imagen 2 生成图片。用户可以输入一个提示，说明他们想要什么样的图片，SGE 会在 SGE 对话体验中直接返回四个结果。Imagen 2 的另一个样本在 Vertex AI 中，Imagen 2 可通过 API 提供给Google云客户。在其他地方，Imagen 2 现在可以通过Google的人工智能聊天机器人 Bard 调用。Google解释说："有了Imagen 2，Bard可以理解简单或复杂的提示，这样你就可以生成一系列高质量的图像。只需输入一个描述比如'创建一个狗骑冲浪板的图像'Bard就会生成定制的、范围广泛的视觉图像，帮助你把想法变为现实。"Google仍未透露用于训练 Imagen 2 的数据，这并不令人意外。像Google这样的 GenAI 供应商是否可以在公开数据（甚至是受版权保护的数据）上训练模型，然后再将该模型商业化，这是一个未决的法律问题。相关诉讼正在法院审理中，供应商认为他们受到合理使用原则的保护。但尘埃落定尚需时日。与此同时，Google对此事保持沉默，以策安全。 ... PC版： 手机版：