微软发现GPT-4存在漏洞,易受“越狱”提示绕过安全措施

None

相关推荐

封面图片

GPT-4 全线驱动微软生产力工具

GPT-4全线驱动微软生产力工具Microsoft365Copilot将AI(GPT-4等)的力量与MicrosoftGraph中的数据(您的日历、电子邮件、聊天、文档、会议等)以及Microsoft365应用程序相结合,使您的文字变成地球上最强大的生产力工具。普通人只使用Microsoft365中数千个可用的命令——例如“动画幻灯片”或“插入表格”。现在,所有丰富的功能都仅使用自然语言解锁。而这只是个开始…WordCopilot可以编写、编辑、总结和创建文档。PowerPointCopilot可以根据自然语言生成并编辑PPT。ExcelCopilot可以在几秒内分析趋势并创建专业的数据可视化。OutlookCopilot可以总结邮件、起草邮件,帮你分类整理收件箱。TeamsCopilot可以实时摘要会议内容,并在会议期间提供实时建议。GitHubCopilot的开发人员中,88%的人表示他们的代码工作效率更高。BusinessChat结合个人数据和365应用程序可以直接执行自然语言提示,如“告诉我的团队我们如何更新产品策略”,它将根据上午的会议、邮件和聊天线程生成状态更新。投稿:@ZaiHuabot频道:@TestFlightCN

封面图片

GPT-4满分通过MIT本科数学考试 这套提示词火了

GPT-4满分通过MIT本科数学考试这套提示词火了要知道,测出这个结果的不是别人,正是来自MIT和波士顿大学、康奈尔大学的研究团队。而且强如上一代王者GPT-3.5,在同样的测试中,只成功搞定了三分之一。论文一出,无数目光迅速被吸引过来。GPT-4这样看似开挂的行为,自然引发了不少网友的感慨。比GPT-3.5强好多,好耶!咱就是说,有没有可能以后不需要比GPT-4更强的模型,来解决学术问题了?还有网友展现了自己网上冲浪的“前沿性”,玩了个这两天YannLeCun吐槽“GPT-4智商不如狗”的梗:GPT-4开挂MIT考试具体来说,GPT-4这次是参与了这样一场测试:研究团队策划了一个数据集,其中包含4550个问题和解决方案。这4550个问题和解决方案,来自MIT数学系和EECS的学生获得本科学位,需要学习的课程问题集、期中考试和期末考试。包括:6-1:电气科学与工程;6-2:电气工程与计算机科学;6-3:计算机科学与工程;6-4:人工智能与决策;18-1:普通数学;18-2:应用数学;18-3:纯数学;18-C:数学与计算机科学。题目统统出自MIT的数据集,从中随机生成228个问题,不涉及图像和已有解决方案的问题。题目的难度等级由易到难依次为:练习、习题、期中考试、期末考试、实验和专题。按答案类型排序,题目的难度由易到难依次为:编程、开放、选择题、数值、表达式和图像。这一次,参与考试的不只有GPT-4和GPT-3.5,还有StableVicuna-13B、LLaMA-30B和LLaMA-60B。选择让这4个大模型作为考试参赛选手,原因是它们是“最先进的大语言模型”。通过表格里的数据可以看到,得分最高的是经过调优后的GPT-4,得分率100%;表现最一般的是LLaMA-30B,只拿下了30%的分数。值得关注的是,原始版本的GPT-4开箱即用,完全不经过调优,在本次MIT考试中也拿到了90%的分数。调优流程,包括Few-Shot+CoT+Self-critique+Experts。从最终考试成绩的表格数据可以看到,从左到右每增加一个环节,调优后的GPT-4得分都会更上一层楼。此外,研究团队还在提示框里进行了工程优化,具体的“咒语”如下:等等,评分人是GPT-4自己?看到这样的结果,不少网友心生感慨,LLM在数学考试上的进步,未免有些神速了哈。2年前,AI还在苦苦挣扎小学数学问题。类似“小明种了5棵柠檬树,每年从每棵树上得到6个柠檬,10年间他总共得到多少柠檬”这种。去年年初,MIT+哈佛+哥伦比亚大学+滑铁卢大学的联合研究表示,把数学问题转换成等价的编程问题,就可以让GPT-3的同门师兄弟——OpenAI的Codex掌握高数,达到MIT本科水平。学了6门MIT本科基础数学课里随机抽取的例题,6门课程每门随机出25道题,再加上一个ACT水平(美国高考)的数据集里的60道题。总计210道题,AI全部答对。不过有人提出,AI达到的“MIT本科水平”,实际是Codex在做语言题而非数学题——因为当时的评测中,Codex负责读写,并不包括求解。所以,这一回GPT-4表现奇佳,怎一个妙字了得~好了,知道你很着急夸它,但你先别着急夸它,因为很快有人发现了一些“诡异”。主要有2大槽点。第一个值得质疑一番的,就是OpenAI的训练数据集没有完全公布。这也就意味着,无法证明数据集中的4550个问题和解决方案,在GPT-4的训练集中不存在。换句话说,如果GPT-4在预训练阶段已经接触到了这次的考题们,那最终拿下完美得分,就没什么好惊喜的了。也难怪乎有网友毫不客气地yygq,认定GPT-4拿到这样的结果,一定是数据集已经包含在训练数据里了。第二个槽点,就是GPT-4最后100%的得分率,似乎哪里不对劲???定睛一看,在论文的第2.6节有一句很关键的点:团队在数据集上微调开源大模型,“给定问题Q、基本事实解S和LLM答案A,我们使用GPT-4自动对模型响应进行评分”。实际操作上,就是每个大模型生成这次考试的答案,然后派出GPT-4打分,分值在0-5之间。所以给GPT-4打出满分的,实际上是GPT-4自己。啊这……很难说没有王婆卖瓜自卖自夸的嫌疑。此外,关于要给GPT-4提供“好的提示”,才能让它达到满分成绩,也让许多人抱有微词。到底什么算“好的提示”呢?似乎无法定义。甚至有人喊着,应该把这些题丢给MIT数学和EECS的学生去做,并不断给他们“好的提示”,这样人类学生也能拿下100%的吧……OneMoreThing一个小小的彩蛋:整个测试中,基本上可以在笔记本电脑上部署运行的StableVicuna-13B,也有48%的得分率。这个成绩,不仅比模型更大的LLaMA-65B高出近10个百分点,就连MITfine-tuing过后的LLaMA-30B,还要高。让人不得不陷入一些关于模型规模与能力相关性的思考参考链接:[1]https://arxiv.org/abs/2306.08997[2]https://twitter.com/johnjnay/status/1669687958960586753[3]https://twitter.com/arankomatsuzaki/status/1669528841629601792[4]https://twitter.com/emollick/status/1669742473097228292...PC版:https://www.cnbeta.com.tw/articles/soft/1365793.htm手机版:https://m.cnbeta.com.tw/view/1365793.htm

封面图片

微软宣布免费版Copilot已换成GPT-4 Turbo

微软宣布免费版Copilot已换成GPT-4TurboGPT-4Turbo版是OPENAI在2023年11月份推出的新模型,支持128K上下文,微软则是在2023年12月在MicrosoftCopilot中添加了GPT-4Turbo的支持。不过这种新模型在微软这里也是要付费的,那就是需要开通20美元/月的CopilotPro订阅后才能使用GPT-4Turbo。现在,微软宣布所有用户都可以免费使用GPT-4Turbo,现在免费版Copilot也已经替换成GPT-4Turbo模型,微软称这经过了相当多的工作。目前Copilot提供CopilotforWindows版、网页版以及集成在MicrosoftEdge浏览器中,对于受支持的国家或地区,用户可以通过任意一种方式免费使用GPT-4Turbo。来源,频道:@kejiqu群组:@kejiquchat

封面图片

微软:多模态大模型GPT-4下周就出

微软:多模态大模型GPT-4下周就出最新消息是,万众期待的GPT-4下周就要推出了:在3月9日举行的一场名为“AIinFocus-DigitalKickoff”的线下活动中,四名微软德国员工展示了GPT系列等大型语言模型(LLM)的颠覆性力量,以及OpenAI技术应用于Azure产品的详细信息。在活动中,微软德国首席技术官AndreasBraun表示GPT-4即将发布,自从3月初多模态模型Kosmos-1发布以来,微软一直在测试和调整来自OpenAI的多模态模型。GPT-4,下周就出“我们将在下周推出GPT-4,它是一个多模态的模型,将提供完全不同的可能性——例如视频(生成能力),”Braun说道,他将语言大模型形容为游戏规则改变者,因为人们在这种方法之上让机器理解自然语言,机器就能以统计方式理解以前只能由人类阅读和理解的内容。与此同时,这项技术已经发展到基本上“适用于所有语言”:你可以用德语提问,然后用意大利语得到答案。借助多模态,微软和OpenAI将使“模型变得全面”。微软德国CTOAndreasBraun。改变业界微软德国公司首席执行官MarianneJanik全面谈到了人工智能对业界的颠覆性影响。Janik强调了人工智能的价值创造潜力,并表示,当前的人工智能发展和ChatGPT是“iPhone发布一样的时刻”。她表示,这不是要代替人类工作,而是帮助人们以不同于以往的方式完成重复性任务。改变并不一定意味着失业。Janik强调说,这意味着“许多专家会开始利用AI实现价值增长”。传统的工作行为正在发生变化,由于新的可能性出现,也会产生全新的职业。她建议公司成立内部“能力中心”,培训员工使用人工智能并将想法整合到项目中。此外,Janik还强调,微软不会使用客户的数据来训练模型(但值得注意是,根据ChatGPT的政策,这不会或至少不会适用于他们的研究合作伙伴OpenAI)。微软德国CEOMarianneJanik。实际用例微软的两位AI技术专家ClemensSieber和HolgerKenn提供了关于AI实际使用的一些信息。他们的团队目前正在处理具体的用例,他们讲解了用例涉及的技术。Kenn解释了什么是多模态人工智能,它不仅可以将文本相应地翻译成图像,还可以翻译成音乐和视频。除了GPT-3.5模型之外,他还谈到了嵌入,用于模型中文本的内部表征。根据Kenn的说法,“负责任”的AI已经内置到微软的产品中,并且可以通过云将数百万个查询映射到API中。ClemensSiebler则用用例说明了今天已经成为可能的事情,例如可以把电话呼叫的语音直接记录成文本。根据Siebler的说法,这可以为微软在荷兰的一家大型客户每天节省500个工作小时。该项目的原型是在两个小时内创建的,一个开发人员在两周内完成了该项目。据他介绍,三个最常见的用例是回答只有员工才能访问的公司信息、AI辅助文档处理和在呼叫中心处理口语的半自动化。微软表示人们很快就会与其全新的AI工具见面。特别是在编程领域,Codex和Copilot等模型可以更轻松地创建代码,令人期待。当被问及操作可靠性和事实保真度时,Siebler表示AI不会总是正确回答,因此有必要进行验证。微软目前正在创建置信度指标来解决此问题。通常,客户仅在自己的数据集上使用AI工具,主要用于阅读理解和查询库存数据,在这些情况下,模型已经相当准确。然而,模型生成的文本仍然是生成性的,因此不容易验证。Siebler表示微软围绕生成型AI建立了一个反馈循环,包括赞成和反对,这是一个迭代的过程。看来在AI大模型的竞争中,领先的一方也加快了脚步。微软在过去一周左右接连发布了展示多模态的语言大模型论文Kosmos-1和VisualChatGPT,这家公司显然非常支持多模态,希望能够做到使感知与LLM保持一致,如此一来就能让单个AI模型看文字图片,也能“说话”。微软的下次AI活动选在了3月16日,CEO萨蒂亚・纳德拉将亲自上台演讲,不知他们是否会在这次活动上发布GPT-4。有趣的是,微软的活动和百度推出文心一言选在了同一天。距离3月16日百度推出类ChatGPT聊天机器人还有一周时间,最近有报道称,百度正在抓紧时间赶在发布最后期限前完成任务。目前看来,百度打算分阶段推出文心一言的各项功能,并首先向部分用户开放公测。知情人士称,在春节假期过后,李彦宏就要求包括自动驾驶部门在内的全公司AI研究团队将英伟达A100支援给文心一言的开发。我们期待下周各家科技公司能带来惊喜。...PC版:https://www.cnbeta.com.tw/articles/soft/1348807.htm手机版:https://m.cnbeta.com.tw/view/1348807.htm

封面图片

微软和Epic Systems将把GPT-4引入医疗领域

微软和EpicSystems将把GPT-4引入医疗领域微软和EpicSystems宣布将把OpenAI的GPT-4人工智能语言模型引入医疗保健领域,以帮助医护人员回复患者信息和分析医疗记录。EpicSystems是美国最大的医疗软件公司之一,其电子健康记录(EHR)软件(如MyChart)在美国超过29%的急诊医院中使用,全球有超过3.05亿患者的电子记录保存在Epic中。威斯康星州UWHealth的首席信息官CheroGoswami表示:“将生成式AI整合到我们的一些日常工作流程中,将提高我们许多提供者的生产力,使他们能够专注于真正需要他们关注的临床职责。”GPT-4还能为Epic的数据探索工具SlicerDicer带来自然语言查询和“数据分析”功能,使医疗机构能够在大量患者的数据中搜索,发现新趋势。微软称,这将有助于“临床医生以对话式和直观的方式探索数据。”业界担忧GPT-4能够编造不存在的信息,此外,GPT-4可能存在的偏见,可能会基于性别、种族、年龄或其他因素对某些患者进行歧视。业内人士认为OpenAI的模型尚不能用于提供治疗或健康状况的指导。来源,,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

微软德国表示,将于下周推出多模式GPT-4 | 详文

微软德国表示,将于下周推出多模式GPT-4在2023年3月9日举行的题为"AIinFocus-DigitalKickoff"的大约一小时的混合信息活动中,微软德国的四名员工详细介绍了像GPT系列这样的大型语言模型(LLM)对公司的颠覆性力量以及他们的Azure-OpenAI产品。启动仪式以德语进行,新闻媒体Heise也在场。微软德国首席技术官兼数据和人工智能STU负责人AndreasBraun提到了他所说的即将发布的GPT-4。自3月初发布Kosmos-1以来,微软正在与OpenAI一起微调多模态的事实应该不再是一个秘密。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人