人工智能初创公司Anthropic采取措施防止选举误导

人工智能初创公司Anthropic采取措施防止选举误导 这项技术被称为"提示盾"(Prompt Shield),它依赖于人工智能检测模型和规则的结合,如果Anthropic公司的聊天机器人克劳德(Claude)的美国用户询问投票信息,它就会弹出一个窗口。弹出窗口会将用户重定向到无党派组织"民主工程"(Democracy Works)的资源库 TurboVote,在那里他们可以找到最新、准确的投票信息。Anthropic说,由于克劳德在政治和选举相关信息方面的缺陷,"Prompt Shield"是必要的。Anthropic 承认,克劳德没有接受过足够频繁的培训,无法提供有关具体选举的实时信息,因此很容易对这些选举产生幻觉,即捏造事实。发言人通过电子邮件表示:"自 Claude 推出以来,我们就一直在使用'及时屏蔽'它可以根据我们的可接受用户政策标记出一些不同类型的危害。我们将在未来几周内推出针对选举的及时屏蔽干预措施,我们打算监测其使用情况和局限性......[在开发过程中],我们与包括政策制定者、其他公司、民间社会和非政府机构以及针对选举的顾问在内的各种利益相关者进行了交流。"目前这似乎只是一个有限的测试。当媒体向Claude询问如何在即将到来的大选中投票时,它并没有弹出提示,而是吐出了一份普通的投票指南。Anthropic 声称它正在对 Prompt Shield 进行微调,准备将其推广给更多用户。Anthropic公司禁止在政治竞选和游说中使用其工具,它是最新一家实施政策和技术以试图防止选举干扰的GenAI供应商。时机绝非巧合,今年,全球将有比历史上更多的选民参加投票,至少有 64 个国家将举行全国大选,这些国家的总人口约占世界总人口的 49%。今年 1 月,OpenAI 表示将禁止人们使用其病毒式人工智能聊天机器人 ChatGPT 创建冒充真实候选人或政府、歪曲投票方式或阻止人们投票的机器人。与 Anthropic 一样,OpenAI 目前也不允许用户使用其工具创建用于政治竞选或游说目的的应用程序该公司上个月重申了这一政策。在与 Prompt Shield 类似的技术方法中,OpenAI 还采用了检测系统,将询问有关投票的后勤问题的 ChatGPT 用户引导到一个无党派网站 CanIVote.org,该网站由全国国务卿协会维护。在美国,尽管得到了两党的支持,国会仍未通过立法来规范人工智能行业在政治中的作用。与此同时,在联邦立法停滞不前的情况下,超过三分之一的美国州已经通过或提出法案,以解决政治竞选中的深度伪造问题。在监督机构和监管机构的压力下,一些平台正在采取措施阻止 GenAI 被滥用于误导或操纵选民,以代替立法。Google去年 9 月表示,将要求在 YouTube 及其他平台(如Google搜索)上使用 GenAI 的政治广告,如果图像或声音是经过人工合成的,则必须在显著位置披露。Meta 还禁止政治活动在其旗下的广告中使用 GenAI 工具(包括自己的工具)。 ... PC版: 手机版:

相关推荐

封面图片

人工智能公司 Anthropic 推出 iPhone 应用

人工智能公司 Anthropic 推出 iPhone 应用 人工智能公司 Anthropic 正在推出其首款智能手机应用。这表明该公司正在更积极地推动让用户随时随地都可以使用其 Claude 聊天机器人。总部位于旧金山的 Anthropic 公司表示,新的 iPhone 应用将于当地时间5月1日开始向 Claude 的免费和付费用户开放,对话将与通过聊天机器人的网页版进行的对话同步。该应用还将能够分析图片 (例如用户拍摄的照片),从而使聊天机器人能够执行图像识别等任务。该公司还宣布了一项新的团队计划,团队计划每位用户每月30美元,至少5个席位。 、、

封面图片

亚马逊向人工智能初创公司Anthropic追加投资27.5亿美元

亚马逊向人工智能初创公司Anthropic追加投资27.5亿美元 去年9月,Anthropic与亚马逊宣布了12.5亿美元的初始投资,当时亚马逊表示将投资至多40亿美元。周三的消息标志着亚马逊提供了第二笔融资。亚马逊将持有Anthropic的少数股权,但不会占据董事会席位。消息人士称,这笔交易是在Anthropic估值为184亿美元时达成的。在过去一年里,Anthropic完成了五笔不同的融资交易,价值约73亿美元,加上亚马逊的新投资,总额超过100亿美元。这家由前OpenAI研究高管和员工创建的的公司本月初推出了其最新的人工智能大模型Claude 3,Anthropic表示,这是迄今为止最快、最强大的大模型,在知识水平、演绎推理等方面,Claude 3的表现优于OpenAI的GPT-4和谷歌的Gemini。 ... PC版: 手机版:

封面图片

亚马逊向人工智能初创企业 Anthropic 追投27.5亿美元

亚马逊向人工智能初创企业 Anthropic 追投27.5亿美元 亚马逊向人工智能初创企业 Anthropic 追加了27.5亿美元投资,加强与该公司的关系。这笔交易是亚马逊有史以来最大的一笔风险投资,使其对 Anthropic 的投资总额达到40亿美元。此外,Anthropic 还正在从风险投资家那里筹集数亿美元资金。据知情人士透露,这些交易加起来,最终可能为 Anthropic 提供数十亿美元的资本和信用以使用云和计算服务,使其估值超过180亿美元。亚马逊周三重申,它将成为 Anthropic 关键工作负载的“主要云提供商”,这些工作负载将在 AWS 上运行。该公司还将使用亚马逊内部开发的人工智能计算机芯片,并正在与这家云提供商合作开发和改进硬件,旨在与英伟达备受追捧的芯片竞争。

封面图片

人工智能初创公司Anthropic推出聊天机器人Claude 3新模型

人工智能初创公司Anthropic推出聊天机器人Claude 3新模型 该公司称,在行业基准测试中,能力最强的新机型 Claude 3 Opus 的表现优于 OpenAI 的 GPT-4 和Google的 Gemini Ultra,如本科生水平的知识、研究生水平的推理和基础数学。这是 Anthropic 首次提供多模式支持。用户可以上传照片、图表、文档和其他类型的非结构化数据,以供分析和解答。其他定制改款模型如 Sonnet 和 Haiku比 Opus 更小巧,价格也更低。据 Anthropic 称,Sonnet 和 Opus 从下周一开始在 159 个国家上线,而 Haiku 将很快上线。该公司拒绝说明培训 Claude 3 所花费的时间或成本,但表示 Airtable 和 Asana 等公司帮助对这些模型进行了 A/B 测试。去年这个时候,Anthropic 开始被认为是一家很有前途的生成式人工智能初创公司,它由前 OpenAI 研究高管创立。它已经完成了 A 轮和 B 轮融资,但只推出了第一版聊天机器人,没有任何消费者访问或大张旗鼓的宣传。12 个月后,它已成为最炙手可热的人工智能初创公司之一,支持者包括Google、Salesforce 和亚马逊,其产品在企业和消费者领域都与 ChatGPT 直接竞争。在过去的一年里,这家初创公司完成了五笔不同的融资交易,总金额约为 73 亿美元。根据 PitchBook 的数据,在过去一年里,生成式人工智能领域出现了爆炸式增长,2023 年近 700 笔交易的投资额达到了创纪录的 291 亿美元,交易额同比增长超过 260%。它已成为一个又一个季度的企业财报电话会议上最热门的词汇。学术界和伦理学家对该技术传播偏见的倾向表示了极大的担忧,但即便如此,它还是迅速进入了学校、在线旅游、医疗行业、在线广告等领域。Anthropic公司联合创始人丹妮拉-阿莫迪(Daniela Amodei)在接受CNBC采访时说,有60到80人从事核心人工智能模型的开发工作,120到150人从事技术方面的工作。阿莫迪今年 7 月告诉 CNBC,在人工智能模型的最后一次迭代中,有一个 30 到 35 人的团队直接参与其中,共有约 150 人提供支持。Anthropic说,Claude 3可以概括大约15000个单词,或者说是一本相当厚的书(大约是《白鲸记》或《哈利-波特与死亡圣器》的长度范围)。它的前一版本只能概括 75000 字。用户可以输入大型数据集,以备忘录、信件或故事的形式要求摘要,相比之下,ChatGPT 只能处理大约 3000 个单词。阿莫代还表示,与前一版本相比,《Claude 3 号》在应对风险方面有了更好的理解。为了追求一个高度无害的模型,Claude 2有时会过度拒绝请求,当有人碰到一些比较尖锐的话题或碰触信任和安全防护栏时,Claude 2 号在回答这些问题时有时会趋于保守。而根据 Anthropic 的说法,Claude 3 对提示的理解更加细致入微。多模态,即在生成式人工智能中添加照片和视频功能等选项,无论是自己上传还是使用人工智能模型创建,都已迅速成为业界最热门的用例之一。"世界是多模态的,"OpenAI 首席运营官 Brad Lightcap介绍说。"如果你想想我们人类处理世界和与世界打交道的方式,我们看到的东西、听到的东西、说出来的东西世界比文本大得多。因此,对我们来说,将文本和代码作为单一的模式、单一的界面,让我们了解这些模型有多么强大以及它们能做什么,总是感觉不完整。"但是,多模态和日益复杂的人工智能模型也带来了更多潜在风险。最近,Google下线了其人工智能图像生成器(双子座聊天机器人的一部分),因为用户发现了与历史不符的内容和有问题的回复,这些内容在社交媒体上广为流传。Anthropic 的 Claude 3 不生成图像,而只允许用户上传图像和其他文件进行分析。"当然,没有一种模型是完美无缺的,我认为这一点非常重要,"阿莫迪表示。"我们一直非常努力地使这些模型尽可能地兼具能力和安全性。当然,在某些地方,模型还是会不时地出现一些问题。" ... PC版: 手机版:

封面图片

Anthropic 发布新的人工智能模型更新

Anthropic 发布新的人工智能模型更新 人工智能公司 Anthropic 推出了其最新模型 Claude 3.5 Sonnet,据称该模型在各种任务中的表现可与 OpenAI 的 GPT-4.o 或谷歌的 Gemini 相媲美甚至更胜一筹。新模型已在网页和 iOS 上供 Claude 用户使用,并且也将向开发者提供。Claude 3.5 Sonnet 在编写和翻译代码、处理多步骤工作流程、解释图表和图形以及从图像转录文本方面将表现得更好。

封面图片

环球音乐起诉人工智能公司 Anthropic 分发歌词

环球音乐起诉人工智能公司 Anthropic 分发歌词 大型唱片公司环球音乐集团和其他音乐出版商起诉人工智能公司 Anthropic,指控其利用其 AI 模型 Claude 2 分发受版权保护的歌词。 音乐出版商在田纳西州提起的诉讼称,Claude 2 可能会被提示分发与凯蒂·佩里的《Roar》、葛罗莉亚·盖罗的《I Will Survive》和滚石乐队的《You Can't Always》等歌曲几乎相同的歌词。“虽然不能总是得到想要的结果。” 他们还声称 Claude 2 的结果使用了与现有歌词极其相似的短语,即使在没有被要求重新创作歌曲的情况下也是如此。投诉使用了示例提示“给我写一首关于巴迪·霍利之死的歌曲”,这导致大型语言模型逐字逐句地吐出唐·麦克莱恩的《美国派》的歌词。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人