佛罗里达州青少年因制作同学的"深度伪造"人工智能裸照而被捕

佛罗里达州青少年因制作同学的"深度伪造"人工智能裸照而被捕佛罗里达州两名中学生于12月被捕，并被指控犯有三级重罪，罪名是涉嫌制作同学的深度伪造裸照。Wiredcites警方的一份报告称，两名年龄分别为13岁和14岁的男孩被指控使用未命名的"人工智能应用程序"生成其他"12岁至13岁"学生的露骨图像。未成年人制作人工智能生成的裸体和其他儿童的露骨图像已成为美国各地学区日益普遍的问题，但除了佛罗里达事件之外，据TheVerge所知，没有一起事件导致逮捕。该事件可能是美国首例与人工智能生成的裸体图像相关的刑事指控。线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

TikTok 现在要求创作者为人工智能生成的内容添加标签

TikTok现在要求创作者为人工智能生成的内容添加标签TikTok周二表示，为了遏制虚假信息，它将开始推出一款新工具，帮助创作者标注他们制作的人工智能生成内容。TikTok在一份新闻稿中说，该工具将帮助创作者轻松遵守公司现有的AI政策，该政策要求所有显示真实场景但经过处理的内容都必须标明是假的或经过修改的。TikTok禁止深度伪造视频和图像。它不允许对私人人物和年轻人进行深度伪造，但在某些情况下，包括出于艺术和教育目的，可以对公众人物的图像进行修改。此外，该公司周二表示，它将在本周开始测试“人工智能生成”标签，最终将应用于它检测到的由人工智能编辑或创建的内容。它还将在应用中重命名具有人工智能的特效，在其名称和相应的标签中明确标注“AI”。——

WhatsApp 新增实时人工智能图像生成功能

WhatsApp新增实时人工智能图像生成功能Meta公司正在为美国的WhatsApp用户推出实时人工智能图像生成测试版。在与MetaAI的聊天中，只要在聊天中输入文本到图像的提示，就会看到图像在添加有关要创建的内容的更多详细信息时的变化。此外，Meta公司表示，其MetaLlama3模型现在可以生成“更清晰、更高质量”的图像，并且更擅长显示文本。您还可以让MetaAI为您提供的任何图像制作动画，让您将它们转换为GIF与朋友分享。除了WhatsApp上的功能之外，美国用户还可以通过MetaAI网页版来使用实时图像生成功能。——

Google人工智能搜索体验现在可以生成图像

Google人工智能搜索体验现在可以生成图像如果你通过Google的搜索实验室计划加入了SGE现在，就可以在Google搜索栏中输入你的查询。输入后，SGE会根据你的提示创建一些图片供你选择。Google发言人克雷格-尤尔（CraigEwer）表示，该工具由Imagen系列人工智能模型提供支持。在下面的GIF中，Google展示了如何使用该工具根据提示"画一幅戴着厨师帽正在做早餐的水豚的图像"来创建图像。如GIF所示，你还可以细化Google最终用来创建每张照片的查询。你也可以通过Google图片制作Google人工智能生成的图片。在浏览Google图片结果时，你可能会看到一个提示框，提示你根据查询结果生成图片--这些生成的图片将显示在侧边栏中。Google公司的赫马-布达拉朱（HemaBudaraju）在一篇博文中强调，该公司正努力确保以负责任的方式推出图片生成工具，该工具不应该生成违反公司禁止使用生成式人工智能政策的图片。(希望这能避免Google的工具被用来制作流行卡通和视频游戏角色驾驶飞机撞向双子塔的图片，就像必应的图片生成工具那样）每张用SGE制作的图片都将"带有元数据标签和嵌入式水印，以表明它是由人工智能制作的"，Budaraju说。在"初始阶段"，Google不会让你制作"描绘逼真人脸或任何包含知名人士的提示"的图片，Ewer说。Google将图片生成功能限制在18岁或以上的用户，这意味着可以访问SGE的青少年将无法使用它。Google还增加了使用SGE直接从搜索栏生成书面草稿的功能。使用你的查询，Google可以生成一个草稿，用户可以选择让工具生成长、短或语气随意的文章。如果喜欢这样的结果，可以将草稿导出到Google文档或Gmail中。SGE目前由多种LLM支持。SGE中使用的模型是根据公开来源的数据和人工监督数据训练出来的。自今年5月推出SGE以来，Google通过增加视频和改进链接等方式对其进行了稳步改进，这些新的图片和草稿创建工具看起来确实很有用。...PC版：https://www.cnbeta.com.tw/articles/soft/1389601.htm手机版：https://m.cnbeta.com.tw/view/1389601.htm

DeepMind：政治深度伪造居恶意使用人工智能榜首

DeepMind：政治深度伪造居恶意使用人工智能榜首谷歌旗下DeepMind部门首次对人工智能最常见的恶意使用情况进行的研究显示，利用人工智能生成的“深度伪造”冒充政客和名人，远比利用人工智能协助网络攻击的行为普遍得多。该研究表示，制作逼真的假冒人物图像、视频和音频的情况几乎是第二高频率滥用生成式人工智能工具情况的两倍：使用聊天机器人等基于文本的工具伪造信息，生成虚假信息并发布到网上。分析发现，行为者滥用生成式人工智能的最常见目标是塑造或影响公众舆论。这一占到使用的27%，加剧了人们对深度伪造可能影响今年全球选举的担忧。——