欧盟在大选前就 GenAI 风险问题加强对主要平台的监管

欧盟在大选前就 GenAI 风险问题加强对主要平台的监管 这些要求涉及必应（Bing）、Facebook、Google搜索、Instagram、Snapchat、TikTok、YouTube 和 X。根据规定，这八个平台被指定为超大型在线平台（VLOPs），这意味着它们除了要遵守规则手册的其他规定外，还必须评估和降低系统性风险。在周四发布的一份新闻稿中，委员会表示，它要求这些公司提供更多信息，说明它们各自采取了哪些措施来降低与其服务中的生成式人工智能相关的风险包括与人工智能技术生成虚假信息的所谓"幻觉"有关的风险、深度伪造的病毒式传播风险，以及可能误导选民的自动操纵服务风险。"委员会还要求提供信息和内部文件，说明与生成式人工智能对选举进程、非法内容传播、基本权利保护、性别暴力、未成年人保护和精神健康的影响有关的风险评估和缓解措施，"欧委会补充说，强调这些问题涉及"生成式人工智能内容的传播和创建"。欧盟在向记者介绍情况时还表示，它正计划在复活节后进行一系列压力测试。这些测试将检验平台是否做好了应对人工智能生成风险的准备，例如在 6 月欧洲议会选举前可能出现的大量政治深度伪造。一位不愿透露姓名的委员会高级官员说："我们希望推动各平台告诉我们他们正在做什么，以便尽可能做好准备......应对我们可能发现的所有事件，以及我们在选举前必须做出的反应。"欧盟负责监督虚拟运营商遵守这些针对大科技的 DSA 规则，并将选举安全列为执法的优先领域之一。最近，欧盟正在就针对虚拟运营商的选举安全规则进行咨询，同时着手制定正式指南。根据委员会的说法，今天的要求部分是为了支持这一指导。尽管这些平台被要求在 4 月 3 日之前提供与保护选举有关的信息，这被称为"紧急"要求。但欧盟表示，希望能在此之前，即 3 月 27 日之前完成选举安全指南。委员会指出，合成内容的制作成本正在急剧下降，这增加了选举期间制造误导性假新闻的风险。正因如此，委员会对具有广泛传播政治虚假内容规模的主要平台加大了关注力度。在欧盟看来，上个月慕尼黑安全会议上达成的打击在选举中欺骗性使用人工智能的科技行业协议还不够深入，该协议得到了许多与欧盟委员会现在发送的《索取资料书》相同的平台的支持。委员会的一位官员表示，即将发布的选举安全指南将"更进一步"，并指出委员会计划利用三重保障措施：首先是 DSA 的"明确尽职调查规则"，该规则赋予委员会针对特定"风险情况"的权力；其次是通过《反虚假信息行为准则》（无法律约束力）与平台合作五年多的经验，欧盟打算将该准则变为 DSA 下的《行为准则》；最后是即将出台的《人工智能法》下的透明度标签/人工智能模型标记规则。这位官员补充说，欧盟的目标是建立一个"执法机构生态系统"，在选举前可以利用这些机构。欧盟委员会今天的《索取资料书》还旨在解决比操纵选民更广泛的人工智能生成风险，例如与深假色情或其他类型的恶意合成内容生成有关的危害，无论生成的内容是图像/视频还是音频。这些要求反映了欧盟 DSA 执行 VLOP 的其他优先领域，其中包括与非法内容（如仇恨言论）和儿童保护相关的风险。各平台可在 4 月 24 日之前对其他生成式人工智能征求意见稿作出回复。可能传播误导性、恶意或有害深度伪造内容的小型平台，以及能够以较低成本生成合成媒体的小型人工智能工具制造商，也在欧盟的风险缓解雷达上。这些平台和工具不属于委员会明确的 DSA 对 VLOP 的监督范围，因为它们没有被指定。但委员会扩大监管影响的策略是间接施压，通过大型平台（在此背景下可能充当放大器和/或传播渠道）；通过自我监管机制，如上述《虚假信息守则》；以及《人工智能法》（硬法）通过后（预计几个月内）即将启动和运行的《人工智能契约》。 ... PC版： 手机版：

TikTok将在欧洲议会选举前夕加大打击假新闻和秘密影响行动

TikTok将在欧洲议会选举前夕加大打击假新闻和秘密影响行动 该应用程序旨在让欧洲居民更好地了解选举过程。世界各国政府和政界人士都在关注虚假信息的传播和利用人工智能生成的深度伪造信息影响选举的问题，尤其是社交媒体平台的作用。该公司表示，约有 30% 的欧洲议会议员使用 TikTok。"下个月，我们将在应用程序中为欧盟 27 个成员国分别推出当地语言的选举中心，以确保人们能够轻松地分辨事实与虚构，"TikTok 的欧洲、中东和非洲地区信任与安全主管凯文-摩根（Kevin Morgan）在一篇博客文章中说。"通过与地方选举委员会和民间社会组织合作，这些选举中心将成为我们的社区可以找到可信和权威信息的地方。"在前几年的全国大选中，该公司与新闻检查员合作，通过选举中心制作了有关选举过程和错误信息的教育视频。摩根说，TikTok 目前与欧洲的九家事实核查组织合作，计划扩大事实核查网络，今年再推出九项媒体扫盲活动。它将在未来几个月内推出专门的秘密影响力行动报告，以提高透明度和问责制。 ... PC版： 手机版：

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 该社交视频平台正在通过实施内容凭证（Content Credentials）来实现这一目标，内容凭证是内容出处和真实性联盟（C2PA）的一项技术，该联盟由微软和 Adobe 共同创立。内容凭证将特定的元数据附加到内容上，TikTok 可以利用这些元数据即时识别和标记人工智能生成的内容。因此，TikTok 将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出，并将在未来几周内适用于全球所有用户。虽然 TikTok 已经对使用 TikTok AI 特效制作的 内容进行了标注，但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注，如 OpenAI 的 DALL-E 3 和微软的必应图像创建器。 微软、Adobe 和 OpenAI 已经开始使用内容证书，Google也承诺支持内容证书。尽管 TikTok 已经要求创作者在发布使用人工智能创建或增强的内容时进行披露，但该公司表示，新的变化是确保人工智能生成的内容被标注的另一种方式，同时也减轻了创作者的压力。在未来几个月中，TikTok 还将开始为平台上使用 TikTok 人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息，下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此，虽然 TikTok 承诺在自己的服务中标注人工智能内容，但它也在努力帮助确保在 TikTok 中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok 运营及信任与安全主管 Adam Presser 在一份新闻稿中表示："人工智能生成的内容是一个令人难以置信的创意出口，但对观众而言，透明度至关重要。通过与同行合作跨平台标注内容，我们让创作者更容易负责任地探索人工智能生成的内容，同时继续阻止 TikTok 上禁止的有害或误导性 AIGC。"TikTok 宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是，Meta早在今年二月就宣布，计划在 C2PA 的解决方案基础上为内容添加出处。作为周四公告的一部分，TikTok 表示将致力于打击在选举中使用欺骗性人工智能的行为，其政策坚决禁止人工智能生成的有害误导性内容无论是否贴有标签。 ... PC版： 手机版：

TikTok 详细介绍了在欧盟要求后采取的虚假信息措施

TikTok 详细介绍了在欧盟要求后采取的虚假信息措施 TikTok 周日表示，已立即调动资源和人员，以应对巴勒斯坦伊斯兰组织哈马斯袭击以色列后出现的仇恨和错误信息。 欧盟委员蒂埃里·布雷顿周四给 TikTok 24 小时的时间，详细说明为打击与中东冲突相关的虚假信息传播而采取的措施。他还对马斯克的 X 展开了调查。 TikTok 在一份声明中列出了其已采取的行动，但拒绝透露具体是如何回复布雷顿的。 TikTok 表示：“TikTok 坚决反对恐怖主义。我们对上周以色列发生的可怕恐怖行为感到震惊。我们也对加沙不断加剧的人道主义危机深感悲痛。” TikTok 表示，其行动包括启动指挥中心、增强自动检测系统以删除图像和暴力内容，以及增加更多会说阿拉伯语和希伯来语的管理员。 他还删除了攻击或嘲笑暴力受害者或煽动暴力的内容，增加了对其直播功能的资格限制，并正在与执法机构合作还有专家合作。

欧盟将推出针对大型社交媒体平台的选举保障措施

欧盟将推出针对大型社交媒体平台的选举保障措施 随着欧盟推出首个打击选举虚假信息的约束性制度，X、TikTok 和其他大型网络平台将在几周内因审核不严而受到欧盟罚款。据熟悉该计划的人士透露，欧盟委员会最快将于下周通过旨在打击对选举公正性的网络威胁的指导方针。根据这些要求，未能充分打击人工智能驱动的虚假信息或深度伪造的平台可能面临高达全球营业额6%的罚款。两名熟悉该指导方针的人士表示，在选举期间，社交媒体平台和搜索引擎预计将成立专门团队，审查欧盟范围内23种不同语言的在线虚假信息风险。他们需要证明自己正在与欧盟27个成员国的网络安全机构密切合作。这些指导方针将在通过后立即生效，最早可能于下周通过。

TikTok 将自动标记更多人工智能生成内容

TikTok 将自动标记更多人工智能生成内容 TikTok 正在加大力度在其应用中自动标记人工智能生成的内容，即使这些内容是使用第三方工具创建的。该公司宣布计划支持「内容凭证(content credentials)」，这是一种表明使用了生成式人工智能的数字水印。TikTok 的规则已经要求创作者披露“逼真的”人工智能生成内容。但这项政策可能很难执行，特别是当创作者使用其他公司的人工智能工具时。但由于内容凭证在整个人工智能行业中越来越多地使用，TikTok 的新自动化标签应该能够弥补其中的一些差距。TikTok 称，该公司将是第一个支持内容凭证的视频平台。谷歌、微软、OpenAI 和 Adobe 都承诺支持内容凭证。 、