微软和OpenAI投入200万美元设立基金打击选举相关的内容造假

微软和OpenAI投入200万美元设立基金打击选举相关的内容造假 生成式人工智能(包括 ChatGPT 等大受欢迎的聊天机器人)的兴起导致了一种新的重大威胁,其中涉及人工智能生成的"深度伪造",其目的是使虚假信息永久化。这些新工具可以广泛使用,任何人都可以制作假视频、照片或高知名度政治实体的音频,但这并没有什么帮助。就在本周一,印度选举委员会敦促各政党在围绕选举开展的网络宣传活动中避免使用深度伪造和类似的虚假信息。正是在这一背景下,包括微软和 OpenAI 在内的所有主要科技公司都签署了应对此类风险的自愿承诺,并计划建立一个共同框架,以应对专门为误导选民而制造的深度伪造。在其他地方,主要的人工智能公司已经开始通过在其软件中引入限制来应对这些风险。例如,Google表示不允许其 Gemini 人工智能聊天机器人回答有关选举的问题,而 Facebook 的母公司 Meta也限制通过其人工智能聊天机器人回答与选举有关的问题。今天早些时候,OpenAI 为虚假信息研究人员推出了一款新的深度虚假检测工具,旨在帮助识别由其自己的 DALL-E 图像生成器生成的虚假内容,同时它还加入了行业机构内容出处和真实性联盟(C2PA)的指导委员会,该联盟的成员包括 Adobe、微软、Google和英特尔。新的"社会复原力基金"是这一更广泛的"负责任"人工智能推动力的一部分,微软和 OpenAI 目前正致力于"在选民和弱势群体中进一步开展人工智能教育和扫盲活动"。这将涉及向一些组织发放补助金,其中包括老年人技术服务组织(OATS)、内容真实性联盟(C2PA)、国际民主与选举援助研究所(International IDEA)和人工智能合作伙伴关系(PAI)。根据微软的说法,这些资助旨在让全社会更好地了解人工智能及其能力。例如,OATS 显然将把赠款用于针对美国 50 岁及以上人群的培训项目,内容涵盖"人工智能的基础方面"。社会复原力基金的启动只是微软和 OpenAI 致力于应对人工智能扫盲和教育领域的挑战和需求的其中一步,"微软负责技术和企业责任的公司副总裁 Teresa Hutson 在博文中表示。"微软和 OpenAI 将一如既往地致力于这项工作,我们将继续与拥有共同目标和价值观的组织和倡议合作。" ... PC版: 手机版:

相关推荐

封面图片

微软和 OpenAI 推出200万美元基金以打击选举深度造假

微软和 OpenAI 推出200万美元基金以打击选举深度造假 微软和 OpenAI 宣布设立200万美元基金,以应对人工智能和深度造假被用来“欺骗选民和破坏民主”的日益增长的风险。根据博文,微软和 OpenAI 的新“Societal Resilience 基金”致力于“在选民和弱势社区中进一步开展人工智能教育和扫盲” 。这将涉及向少数组织发放赠款,包括老年人技术服务 (OATS)、内容来源和真实性联盟 (C2PA)、国际民主和选举援助研究所 (International IDEA) 和人工智能伙伴关系 (PAI)。据微软称,这些赠款旨在让全社会更好地了解人工智能及其能力。

封面图片

微软和OpenAI遭到更多新闻机构的起诉

微软和OpenAI遭到更多新闻机构的起诉 这些新闻公司都声称,OpenAI 的 ChatGPT(微软自己的聊天机器人 Copilot 也在使用)复制了他们网站上的新闻,作为人工智能训练的一部分。这些新闻机构还声称,当它们复制自己的报道时,并没有显示"这些作品中包含的作者、标题、版权或使用条款信息"。Alternet 和 Raw Story 声称,如果人们知道 ChatGPT 侵犯了他们报道的版权,那么 ChatGPT 就不会这么受欢迎了。他们还指出,网站所有者可以要求 OpenAI 不要访问他们的网站来用 ChatGPT 训练他们,并认为这意味着 OpenAI 和微软 都知道 ChatGPT 可能会侵犯这些作品的版权。早在 2023 年 12 月,《纽约时报》就对 OpenAI 和微软 提起了类似诉讼。该报纸和网站组织还声称 ChatGPT 非法访问了"《纽约时报》发表的数百万篇文章"。然而,本周 OpenAI 提起反诉,声称《纽约时报》实际上雇人入侵了 OpenAI 的服务。然后,这名身份不明的黑客利用聊天机器人中的一个漏洞,使用欺骗性的文本提示,诱导新闻机构在最初诉讼中显示的回复。看起来,微软 和 OpenAI 与那些认为自己的内容被非法访问的新闻机构之间的法庭大战已经不可避免。这些法庭诉讼的最终结果将决定这些新闻网站是否有权让自己的报道远离人工智能生成服务。相关文章:研究称48%热门新闻网站屏蔽OpenAI爬虫 ... PC版: 手机版:

封面图片

【微软和OpenAI计划投资1000亿美元建造Stargate AI超级计算机】

【微软和OpenAI计划投资1000亿美元建造Stargate AI超级计算机】 据 The Information 报道,微软与 OpenAI 正在计划一项耗资高达 1000 亿美元的数据中心项目。该项目预计将包括一台名为Stargate的人工智能超级计算机,计划于 2028 年推出。在快速采纳生成型人工智能技术的推动下,市场对于能够处理比传统数据中心更高级任务的 AI 数据中心需求激增。 据了解,此项目预算可能是现有最大数据中心成本的百倍。该超级计算机将是该公司未来六年计划建造的一系列超级计算机中最大的一个。 快讯/广告 联系 @xingkong888885

封面图片

美国为对英伟达、微软和 OpenAI 进行反垄断调查扫清障碍

美国为对英伟达、微软和 OpenAI 进行反垄断调查扫清障碍 美国联邦监管机构已达成协议,将对微软、OpenAI 和英伟达在人工智能行业的主导地位展开反垄断调查。这是对这项强大技术的监管审查升级的最强烈信号。 据两位知情人士透露,美国司法部和联邦贸易委员会 (FTC) 在过去一周达成了这项协议,预计将在未来几天内完成。根据协议,司法部将牵头调查英伟达的行为是否违反了反垄断法。联邦贸易委员会将在审查 OpenAI 和微软的行为方面发挥主导作用。该协议表明,司法部和联邦贸易委员会正在加强对人工智能的审查。

封面图片

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击

微软和OpenAI称多国黑客正利用ChatGPT改进网络攻击 微软在今天的一篇博文中说:"网络犯罪集团、民族国家威胁行动者和其他对手正在探索和测试新出现的各种人工智能技术,试图了解它们对其行动的潜在价值以及它们可能需要规避的安全控制。"与俄罗斯军事情报机构有关联的"锶"组织被发现使用 LLMs"了解卫星通信协议、雷达成像技术和特定技术参数"。该黑客组织也被称为 APT28 或 Fancy Bear,在俄罗斯的乌克兰战争期间一直很活跃,此前曾参与2016 年针对希拉里-克林顿总统竞选活动的攻击。据微软称,该小组还一直在使用 LLM 来帮助完成"基本的脚本任务,包括文件操作、数据选择、正则表达式和多进程处理,以实现技术操作的自动化或优化"。一个名为 Thallium 的朝鲜黑客组织一直在使用 LLMs 来研究公开报道的漏洞和目标组织,帮助完成基本的脚本任务,并为网络钓鱼活动起草内容。微软称,名为 Curium 的伊朗组织也一直在使用 LLMs 生成网络钓鱼电子邮件,甚至是用于躲避杀毒软件检测的代码。与中国政府有关联的黑客也在使用 LLMs 进行研究、编写脚本、翻译和改进现有工具。人们一直担心在网络攻击中使用人工智能,特别是出现了像 WormGPT 和 FraudGPT 这样的人工智能工具来协助创建恶意电子邮件和破解工具。美国国家安全局的一位高级官员上个月也警告说,黑客正在利用人工智能让他们的钓鱼邮件看起来更有说服力。微软和 OpenAI 尚未发现任何使用 LLMs 的"重大攻击",但这两家公司已经关闭了与这些黑客组织相关的所有账户和资产。微软表示:"与此同时,我们认为这是一项重要的研究,通过发布来揭露我们观察到的知名威胁行为者试图采取的早期、渐进式行动,并与防御者社区分享我们如何阻止和反击这些行动的信息。"虽然目前人工智能在网络攻击中的应用似乎还很有限,但微软对未来的使用案例(如语音冒充)发出了警告。"人工智能驱动的欺诈是另一个令人严重关切的问题。语音合成就是一个例子,三秒钟的语音样本就能训练出一个听起来像任何人的模型,即使是像语音邮件问候语这样无害的东西,也可以用来获得足够的样本。"微软的解决方案是利用人工智能来应对人工智能攻击。"人工智能可以帮助攻击者提高攻击的复杂程度,而且他们有足够的资源来应对。"微软首席检测分析经理霍马-海蒂法(Homa Hayatyfar)说。"我们已经从微软追踪的 300 多个威胁行为体身上看到了这一点,我们使用人工智能来保护、检测和应对。"微软正在打造一款新的人工智能助手Security Copilot,专为网络安全专业人士设计,用于识别漏洞并更好地理解每天通过网络安全工具产生的大量信号和数据。在 Azure 云遭受重大攻击,甚至俄罗斯黑客监视微软高管之后,这家软件巨头也在全面整顿其软件安全机制。了解更多: ... PC版: 手机版:

封面图片

微软和 OpenAI 计划斥资 1000 亿美元打造“星际之门” AI 超级计算机

微软和 OpenAI 计划斥资 1000 亿美元打造“星际之门” AI 超级计算机 据三名参与该提案私下对话的人士透露,微软和​​ OpenAI 的高管一直在为一个数据中心项目制定计划,该项目将包含一台超级计算机,配备数百万个专用服务器芯片,为 OpenAI 的人工智能提供动力。据一位曾与 OpenAI 首席执行官萨姆·奥尔特曼交谈过的人士以及一位看过微软初步成本估算的人士称,该项目的成本可能高达1000亿美元。微软可能会负责为该项目提供融资,该项目的成本比当今一些最大的数据中心高出100倍,这表明未来几年可能需要巨额投资来建立人工智能的计算能力。高管们预计,拟议中的位于美国的超级计算机 (他们将其称为“星际之门”) 是两家公司计划在未来六年内建造的一系列设施中最大的一个。微软高管希望最早在2028年发布“星际之门” AI 超级计算机。此外,微软和 OpenAI 计划为 AI 开发数据中心项目。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人