OpenAI 删除中国、朝用户账户，防范AI滥用

OpenAI 删除中国、朝用户账户，防范AI滥用 ChatGPT 制造商 OpenAI 周五（21日）表示，该公司已经删除了来自中国和朝鲜的用户账户，这家人工智能公司认为这些用户正在将其技术用于恶意目的，包括监视和舆论影响行动。 OpenAI 在一份报告中表示，这些活动是专制政权试图利用人工智能对付美国及其本国人民的方式，并补充说它使用人工智能工具来检测这些操作。 些活动可能是专制政权试图利用AI对付美国及其人民。具体案例中，有用户利用ChatGPT生成诋毁美国的西班牙语新闻，并以中国公司名义发表；还有与朝鲜可能相关的行为者利用AI欺诈性求职； 另有一组账户涉嫌在社交媒体上翻译和生成与柬埔寨金融欺诈相关的评论。 美国政府对此表示担忧。

微软称与中国有关联的行动者利用AI影响民主选举与制造社会分裂

微软称与中国有关联的行动者利用AI影响民主选举与制造社会分裂 了解更多： 展示了几个例子，表明中国的行为者在美国的社交网络上发布虚假信息，通常是用人工智能生成的内容。其中一些帖子试图推送有关重大新闻事件的虚假阴谋论。例如，2023 年 8 月夏威夷州毛伊岛的大火就是一个名为"风暴 1376"（Storm-1376）的群组的攻击目标，该群组发布虚假信息，声称大火是由美国政府的"气象武器"造成的。该组织还发布了关于 2023 年 11 月肯塔基州火车出轨原因的虚假帖子。Storm-1376被判定为一个来自中国的组织，负责人工智能制作内容，利用虚假信息影响 2024 年 1 月的台湾选举。微软称，这是第一次有民族国家支持的行为者使用人工智能生成的内容试图影响外国选举结果。虽然微软表示，这群行为者利用这些社交网络帖子影响包括美国在内的世界各地即将举行的选举的努力目前可能收效甚微，但"中国在制作谜因、视频和音频方面越来越多的尝试可能会继续下去而且可能会被证明更有效"。MTAC 的新报告还显示，除其他行动外，以朝鲜为基地的网络行为者加大了窃取加密货币资金的力度。其中一个名为"Emerald Sleet"的组织被认定使用了大型人工智能语言模型来帮助改进他们的行动。不过，微软表示，在与其合作伙伴 OpenAI 的共同努力下，微软关闭了被该组织使用的账户和资产。 ... PC版： 手机版：

OpenAI 表示已开始训练新的旗舰人工智能模型

OpenAI 表示已开始训练新的旗舰人工智能模型 OpenAI 周二表示，它已开始训练一种新的旗舰人工智能模型，该模型将取代驱动其流行在线聊天机器人 ChatGPT 的 GPT-4 技术。 OpenAI 在一篇博客文章中表示，希望新模型能够带来“更高水平的能力”，因为该公司致力于打造“通用人工智能”，即能够做任何人类大脑能做的事情的机器。新模型将成为人工智能产品的引擎，包括聊天机器人、类似于苹果 Siri 的数字助理、搜索引擎和图像生成器。 ，

人工智能政策小组称，FTC 应阻止 OpenAI 推出新的 GPT 模型

人工智能政策小组称，FTC 应阻止 OpenAI 推出新的 GPT 模型 人工智能和数字政策中心(Center for AI and Digital Policy，简称 CAIDP)日前提出投诉，要求美国联邦贸易委员会(Federal Trade Commission，FTC)调查 OpenAI 违反消费者保护规则的行为，认为 OpenAI 推出的人工智能文本生成工具 “有偏见，有欺骗性，并对公共安全构成风险”。CAIDP 认为，GPT-4 越过了伤害消费者的界限，应该引起监管行动。在投诉中，CAIDP 要求 FTC 停止任何进一步的 GPT 模式的商业部署，并要求在未来推出任何模式之前对其进行独立评估。FTC 已经表达了对人工智能工具的监管兴趣。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

Midjourney拟禁生成特朗普拜登AI图像

Midjourney拟禁生成特朗普拜登AI图像 人工智能(AI)图像生成技术普及，可轻易大量制造出逼真的政治人物照片，或改变政治舆论风向，为免AI假照片影响美国大选，人工智能图像企业Midjourney考虑禁止用户生成美国总统拜登(Joe Biden)及特朗普(Donald Trump)的图像。 来源：格隆汇

Meta称已停止六项政治影响力宣传活动 包括来自以色列和中国的活动

Meta称已停止六项政治影响力宣传活动 包括来自以色列和中国的活动 这些网络利用 Facebook 和 Instagram 账户试图影响世界各地的政治议程。这些活动其中一些还起源于孟加拉国、中国和克罗地亚利用虚假账户发帖支持政治运动、宣传虚假新闻机构或评论合法新闻机构的帖子。例如，一个源自中国的网络由几十个 Instagram 和 Facebook 账户、页面和群组组成，被用来针对全球锡克教社区，Meta 说。另一个追踪到以色列的活动使用了 500 多个 Facebook 和 Instagram 账户，冒充当地犹太学生、非裔美国人和"相关"公民，赞扬以色列的军事行动并讨论校园反犹太主义等类型的内容。Meta 写道，这两个网络分享的一些内容很可能是使用人工智能生成工具创建的。Meta发现，中国的活动账户分享了人工智能生成的图片，以色列的活动账户则发布了人工智能生成的评论。报告称，就目前而言，人工智能驱动的影响力活动还不够复杂，无法躲避现有的检测系统。社交媒体平台上经常会发现影响力活动。5 月早些时候，TikTok 称已在其平台上发现并捣毁了十几个此类网络，其中包括一个追踪到中国的网络。相关文章:Facebook最新透明度报告：清理有组织的"跨平台秘密影响力"活动TikTok称今年阻止了十余次协调与操纵政治言论的活动 其中包括来自中国的活动 ... PC版： 手机版：