AI 打败 AI:谷歌研究团队利用 GPT-4 击败 AI-Guardian 审核系统

AI 打败 AI:谷歌研究团队利用 GPT-4 击败 AI-Guardian 审核系统 谷歌 Deep Mind 团队正在进行一项实验,他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施,该团队目前已经攻破 AI-Guardian 审核系统,并分享了相关技术细节。 AI-Guardian 是一种 AI 审核系统,能够检测图片中是否存在不当内容,及图片本身是否被其他 AI 修改过,若检测到图片存在上述迹象,便会提示管理员前来处理。 谷歌 Deep Mind 的研究人员 Nicholas Carlini 在一篇题为“”的论文中,探讨了使用 GPT-4“设计攻击方法、撰写攻击原理”的方案,并将这些方案用于欺骗 AI-Guardian 的防御机制。不过 AI-Guardian 的开发者也同时指出,谷歌研究团队的这种攻击方法将在未来的 AI-Guardian 版本中不再可用,考虑到别的模型也会随之跟进,因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。来源 , 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

相关推荐

封面图片

OpenAI 探索用 GPT-2 小模型监督 GPT-4 大模型,防止 AI 毁灭人类

OpenAI 探索用 GPT-2 小模型监督 GPT-4 大模型,防止 AI 毁灭人类 Ilya 领衔的 OpenAI 对齐团队,发表了 用类似 GPT-2 监督 GPT-4 的方法,或可帮人类搞定自己更聪明的超级 AI! 团队声称,已经发现了对超人类模型进行实证对齐的新研究方向。未来超级 AI 系统对齐的一个核心挑战 人类需要监督比自己更聪明人工智能系统。 来源, 频道:@kejiqu 群组:@kejiquchat

封面图片

OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统

OpenAI 正在使用 GPT-4 构建人工智能驱动的内容审核系统 人工智能初创公司 OpenAI 表示,GPT-4 正在测试内容审核功能,任何拥有 OpenAI API 访问权限的人都可以使用这种方法来创建自己的人工智能辅助审核系统。 从 OpenAI 官网了解到,GPT-4 可用于制定适当的内容政策,并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术,并邀请客户也进行试验。借助该系统,开发和制定内容策略的过程从几个月缩短到几个小时。 OpenAI 称,该功能为数字平台的未来提供了更积极的愿景,人工智能可以根据平台特定的政策帮助调节在线流量,并减轻大量人类审核员的精神负担。来源 , 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

GPT-4击败华尔街?最新研究:选股回报超40%

GPT-4击败华尔街?最新研究:选股回报超40% 这个在GPT-4基础上打造的选股票AI,名叫MarketSenseAI。整体来看,MarketSenseAI结合了思维链和上下文学习的方法来分析各种数据源,包括市场价格动态、财经新闻、公司基本面和宏观经济报告等等。基于此,这个AI系统就可以模拟金融投资团队的决策过程了。而且值得注意的一点是,GPT-4在这个过程中不仅充当预测工具,还起到了评估器的作用。对于这项研究,论文作者给出了这样的评价:证明了大语言模型在复杂金融决策中的功效,并标志着人工智能在整合金融分析和投资策略方面的重大进展。不过有一说一,此前与“AI炒股”相关的消息也是层出不穷。更是有许多消息拿着数据称“AI永远无法打败股票市场”,认为AI不仅无法预测黑天鹅事件,甚至可能会引发黑天鹤事件:那么此次基于GPT-4的选股研究是否靠谱,我们继续往下看。怎么做到的?从整体的框架结构来看,MarketSenseAI由五个主要部分构成,它们分别是:新闻总结器(Progressive News Summarizer)。基本面总结器(Fundamentals Summarizer)。股价动态总结器(Stock Price Dynamics Summarizer)。宏观经济环境总结(Macroeconomic Environment Summary)。信号生成(Signal Generation)。这五大部分在系统中各司其职,例如新闻总结器这个组件负责从大量的金融新闻中提取和浓缩关键信息,生成影响股票价格的重要新闻的概要。这一过程涉及到使用自然语言处理技术来识别和总结与特定股票相关的新闻事件,这些总结能够帮助投资者快速了解影响股价的最新动态。基本面总结器的作用是分析公司的财务报表,包括利润表、资产负债表和现金流量表;它利用 AI 技术来解读和总结这些财务数据,帮助投资者理解公司的财务状况和长期盈利能力。股价动态总结器的功能是分析股票的历史价格走势和关键的财务指标,如市盈率、股息收益率等;助于投资者了解股票的市场表现和潜在的风险回报比。宏观经济环境总结涵盖了对全球宏观经济状况的深入分析,考虑了经济增长、通货膨胀、利率水平、货币政策等因素。通过这种方式,能够在更广泛的经济环境中对单一股票进行评估。最后,信号生成这个步骤将上述所有分析整合,生成针对特定股票的投资信号(例如买入、持有或卖出),并提供详细的逻辑和理由。这一过程涉及到综合考虑各种数据源和分析结果,以形成对股票未来表现的预测。基于上述五个部件“组合拳”的能力,作者在与美国标普100指数做对比后,给出了在等权重投资组合(Equally-Weighted Portfolios)、资本化加权投资组合( Capitalization-Weighted Portfolios)和排名投资组合(Ranked Portfolios)三个方面的性能表现结果。AI炒股,不止这一例不过有一说一,MarketSenseAI虽然在这次研究中取得了不错的表现,但这也仅是“AI炒股”众多案例中的一个。例如此前GPT-4刚刚联网之际,便有一家名为Autopilot的公司在X中宣布(账号名为The GPT Portfolio),要用GPT-4进行实盘投资。具体而言,他们新建了一个ChatGPT主导的投资计划,并交给它5万美元初始资金,看GPT-4能否战胜对冲基金。截至目前,The GPT Portfolio官网数据现实已经吸引了超过3400名的投资者、募集资金890多万美元。但在此前,从The GPT Portfolio在X中发布的数据来看,巅峰的数据应当是:超42000名投资者和3300多万美元的募集资金。如此比较下来,起码在数据方面,这个AI炒股项目的热度是降低了不少;并且从去年的1月7日,X账号已经停止了内容的更新。而在这个项目的背后,是来自佛罗里达大学金融学教授Alejandro Lopez-Lira的一项研究。教授在论文中指出:根据我们的研究,ChatGPT 能够预测股市价格走势,并产生超过500%的回报。虽然Lopez-Lira教授在研究中整体表达的是AI乐观态度,但他也指出:短时间内AI或许可以预测市场走向,但这一情况并不会维持太久。随着越来越多的人使用这些工具,市场将变得更加有效率,因此预计收益的可预测性会下降。预计到第五年,将没有任何收益可预测性。那么你觉得AI炒股这事,靠谱吗?参考链接:[1] ... PC版: 手机版:

封面图片

金山办公表示未来会接入 GPT-4

金山办公表示未来会接入 GPT-4 金山办公近期接受机构调研时被问及“未来是否会接入 GPT-4?”公司表示,会的,出海的公司基本都在和 OpenAI 合作,这是目前最好的技术。 昨日在接受《每日经济新闻》记者书面采访时,金山办公表示,GPT-4 会颠覆整个协同办公软件市场。从产品和业务形态来看,金山办公早期的 AI 团队主要是在用上个时代的 AI 技术解决简单创作的问题,但 GPT-4 上线后,团队需要用新时代的 AI 技术实现“简单创作、轻松表达”。

封面图片

Vercel Labs 推出 AI Playground 可用 GPT-4

Vercel Labs 推出 AI Playground 可用 GPT-4 是 Vercel 提供的在线平台,允许用户在交互式环境中测试和对比多个AI模型,包括 OpenAI 的 GPT-4 。用户可以输入文本或代码,AI 模型将根据输入生成响应。这使开发人员和非开发人员都可以轻松探索 AI 模型的功能、测试想法并构建 AI 驱动的应用程序。#AI 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

【一天完成六个月工作!OpenAI曝光GPT-4新功能内容审核】GPT-4可以用于制定内容的政策,也可以执行政策,为帖子添加标签

【一天完成六个月工作!OpenAI曝光GPT-4新功能内容审核】GPT-4可以用于制定内容的政策,也可以执行政策,为帖子添加标签、或者做评判。OpenAI人士称,不需要雇几万审核员,人类可以做顾问,确保AI系统正常运行,判断不能清晰界定的案例。 #抽屉IT

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人