浙江大学的几位学生,周末整理了第一批第三方 Plugins 「都有什么,做什么,以及它们的详细用例」共计 2 万 5 千余字,下

浙江大学的几位学生,周末整理了第一批第三方 Plugins 「都有什么,做什么,以及它们的详细用例」共计 2 万 5 千余字,下面是一些结论: - 约八成插件集中于购物、餐饮、旅行、住房和求职这些成熟的商业化场景,其余分布在教育、财经咨讯、内容社区和编程技术场景。 - 专业领域,例如商业分析、游戏、身体/心理健康,以及社交,家庭和育儿场景是蓝海。 - 约七成插件用于已有平台的商业导流,同质化严重,或许意味着 OpenAI 成为新的流量分发平台的雄心。 - 联网、实时信息获取和阅读网页/PDF 功能是刚需。Wolfram(数学计算)、WebPilot(网页阅读)、Speak(专业翻译)、Prompt Perfect(提示词润色)、Diagram It(流程图绘制)、AskYourPDF(PDF阅读)、CreatiCode Scratch(少儿编程)、Chess(国际象棋游戏教练)、edX(公开课学习)、FiscalNote(政策咨询与分析)等插件商业化属性弱,功能强大,值得一试。 更多详细内容,见「赛博禅心」的这篇公众号文章

相关推荐

封面图片

易用性有时候是值得损失部分准确性的

易用性有时候是值得损失部分准确性的 阅读 Ben Thompson 的文章OpenAI Dev Day 之后 ChatGPT 似乎淡化了 Plugin 的概念,而推出了新的产品交互形态,对比下前后两者的差别: 之前:用户如果需要使用某一插件(如PDF总结),必须搜索安装插件,并在对话前切换打开插件,然后对话; 之后:用户不再需要特意安装插件,直接点到侧边栏的 GPTs(为某一场景专门定制的GPT),对话即可; 这其中,虽然用户还是做了一次选择,但一开始插件就已经被集成到了 GPTs 中,这个整体操作和交互体验改变很大,它降低了用户的思考成本,只需要在合适的时候做一个简单的点击即可。 作者由此引出自己的观点: 1. 消费者关心事物的方式和你赋予他们的期望可能不同,他们优先考虑易用性,对于模块化解决方案的“接缝感”会表现出明显的不满(比如 ChatGPT 之前的 Plugin 使用方式就是一种模块化方案)。 2. 综合的解决方案最终能够获胜,因为没有什么是“足够好的”,综合的解决方案也许会有缺陷(比如 ChatGPT 有时欠缺准确性),但是,这种缺陷是可以接受的,易用性是值得损失部分准确性的。 3. 客户会说自己需要准确性和第三方工具,但是他们的行动会证明,方便和易用才是最重要的。 以上的观点启发很大,可见 OpenAI 正在从一家主要关注技术能力的公司,转变为同时关注产品能力和用户体验的公司。

封面图片

为什么今年奥运会毫无热度?

为什么今年奥运会毫无热度? 不正经说体育的回答 用一句非常难听的话就是: 被狮子保护过的女人,怎么可能看得上鬣狗。 个人认为奥运会热度下降原因有三点 第一、就是互联网时代,老百姓吃过见过的多了,对外面的世界了解的多了,国民更加自信了,所以不需要奥运金牌来提升世界对我们的认同感。 第二、就是现在大环境经济下行,大部分人考虑的还是如何活下去至于奥运这种可有可无的问题也就无所谓了。 第三、就是奥运的项目乏善可陈…最近NBA季后赛,足球欧冠,哪个不比奥运会好看多了。 相比于足球篮球之类竞技性高,商业化强的比赛,观赏性的确差了一点…而我们夺金的项目“小巧难女少”这样的项目,观赏性就更不好说了。 所以2008年的北京奥运会,真的是我觉得有史以来办得最好的一届,从此以后,感觉奥运也就那么回事了。 巴黎奥运会马上就要开幕了,国内整个气氛都是无所谓的样子。 回想1984年洛杉矶奥运会中国女排拿到冠军时那激动人心的场景,依然历历在目,现如今,人们对奥运会越来越淡漠。 这是不是我们民族自信提升的具体体现呢? 奥运会,本来就是全世界参与的商业活动嘛,你喜欢你就多买买买,你不喜欢,就少看少关心即可。 另外多说一句: 本届巴黎奥运会已经确定被取消的6个运动项目:1、垒球项目 2、棒球项目 3、空手道所有项目 4、帆板男女RSX项目 5、竞走男子50公里项目 6、举重4个级别项目从取消的6个项目可以看出,我们和日本的奖牌数势必会减少。 网友热评:游泳、田径项目太多了,分得太细,重叠多,觉得真有必要缩减一些。 via 知乎热榜 (author: 不正经说体育)

封面图片

有一个赛道,在悄摸赚钱。

#内幕消息 有一个赛道,在悄摸赚钱。 今天普通人的红利,一个是短视频为代表的自媒体红利,另一个就是技术红利。 ChatGPT、Midjourney、Sora、Suno分别代表人工智能生成文字、图片、视频、音频的技术窗口。 但由于语言、地区、交互界面、使用习惯、信息差等诸多因素,这些第一手产品并没有覆盖所有有需求的用户,甚至覆盖一半的用户,所以绝大多数的用户在使用其他产品,无论是套壳还是山寨。 简单说,AirPods开创了无线蓝牙耳机赛道,大家都觉得好,但也许太贵,也许直营店太少等等因素,整个无线蓝牙耳牙耳机需求被激活,赛道被激发,诞生了几百个无线蓝牙耳机品牌,创造了万亿市场规模。 ChatGPT等工具开创了人工智能生成的巨量赛道,但在全球范围内,有几十亿的人没有真正用上这样的工具。 有一拨创业者,正在服务这个需求。 他们开发出类似人工智能生成的工具,或者切分这一大需求的某个极度细分的需求(类似模拟生成自己的人声),然后通过搭建独立站或者插件,并通过Google等搜索优化,让所有需求克服找到它, 然后直接支付,购买会员,或收取点击广告费赚钱。 这个创业赛道覆盖全世界,几十种语言的市场,但这个创业赛道的创业者,聚集了一帮编程架构能力极强,同时有商业化思维的中国程序员和开发者。 比起跨境电商和肉身出海,他们是在「出海」大赛道中,用最低成本和投入,最小风险,赚到最大额回报的一群人。 两点启示: 1、如果你懂技术,快去干。 2、浪潮到来的时候,赚到钱的一定不光是乘风破浪的主咖,还有泥沙里裹杂的所有。 大局未定,哪怕大局已定,永远都有机会。

封面图片

黄仁勋演讲背后的那排机器人究竟有什么来头?

黄仁勋演讲背后的那排机器人究竟有什么来头? 穿越喧嚣的声音,颇有几分造物者的姿态,让人觉得科幻电影的日常即将走入当下。你肯定也在琢磨,这些聚光灯下的九位人形机器人都有什么来头?别急,从左往右,我们这就开扒。Figure:Figure 01第一个登场,是我们的老朋友 Figure 01。三个月前,OpenAI 将 ChatGPT 塞进了人形机器人 Figure 01。借助 OpenAI 的先进视觉和语言理解技术,以及 Figure AI 的神经网络技术,Figure 01 能够与人类进行流畅的对话,并执行一系列复杂任务。识别物体、递苹果,捡垃圾,收拾餐具,Figure 01 操作的丝滑程度出乎所料。Figure 01 背后的 Figure 公司,在 2022 年成立后不久,就吸引了包括 OpenAI、微软、英伟达、亚马逊等顶尖科技公司的投资和支持。2024 年 2 月,Figure 公司在一轮融资中筹集到了 6.75 亿美元,使得公司估值达到了 26 亿美元。此外,Figure AI 商业化的步伐也未曾停歇,他们曾与宝马制造公司签订商业协议,将 AI 和机器人技术融入汽车生产线,并落户于宝马的工厂。宇树科技:H1会后空翻的机器人并不是什么稀奇事,但会后空翻的电动驱动人形机器人属实是屈指可数。H1 机器人的身高约为 180 厘米,体重约 47 千克,峰值扭矩密度达到 189N.m/Kg,移动速度可达 3.3m/s,这一速度打破了全尺寸人形机器人运动的世界纪录。并且,它拥有 19 个自由度,腿部关节电机峰值扭矩高达 360N·m,配合中空轴线和双编码器,被誉为同类规格中功率性能最高的机器人。此外,H1 机器人还具备 360° 全景深度感知能力,能够实现自主避障和定位导航功能。宇树科技的产品线涵盖了多个系列,如 Go 系列、B 系列、H 系列等,每个系列都针对不同的应用场景和市场需求。例如,Go 系列主要面向消费级市场,而 B 系列则更多应用于工业领域。宇树科技的产品在全球范围内享有较高的知名度,曾受邀参加 2021 年央视春晚、2022 年北京冬奥会开幕式等重大活动。前不久,宇树科技也正式发布 Unitree G1 人形机器人,售价 9.9 万元起。在官方发布的展示视频中,Unitree G1 不仅能做“鲤鱼打挺”,还能耍金箍棒、缩骨、砸核桃、颠勺、焊接。谈及距离设想中的通用机器人还有多远时,宇树科技创始人兼 CEO 王兴兴表示:目前大家在做的事情很简单,就是把 AI 技术拿过来给机器人用。但我觉得目前 AI 跟机器人结合的技术临界点还没到,可能整个技术方案还没跑通。Apptronik:Apollo都说人形机器人的宿命是进厂“拧螺丝”,Apollo 人形机器人也不例外。作为专为适应人类工作环境而设计的机器人,Apollo 能够自动执行搬运和装配任务,将汽车零部件精准地搬运到生产线上,供工人们进行组装。Apollo 还能在工业环境中辅助员工完成一些繁重的体力工作,能举起重达 25 千克的重物也不在话下。在设计方面,Apollo 采用了模块化功能,用户可以根据实际需要决定机器人的配置。比如作为双足行走的人形机器人、通过轮子运行的躯干或者安装在固定位置的躯干。今年 3 月份,Apollo 背后的 Apptronik 公司宣布与梅赛德斯·奔驰达成一项商业协议。身高约 1.7 米、体重 140 多斤的双足机器人 Apollo 主要从事搬运、装配零部件等繁重的低技能劳动。目前,Apptronik 目标是在 2024 年底前实现全面商业化生产。Agility Robotics:Digit作为一款具有高度灵活性和适应性的人形机器人,Digit 的设计灵感来源于动物的运动机制,特别是人类的行走方式,使其能够在复杂的环境中自如行动。例如,Digit 机器人能够在仓库中自主导航,找到存放空箱的位置,并用其手臂提起并搬运这些箱子到指定位置,以便它们可以被重新装填或转移。Digit 机器人的设计目的是为了在仓库和配送中心等环境中工作,执行搬运货物、存储货物等任务。它能够在不平坦的地面上行走、抓取和运送塑料手提袋、整理包装箱等,在提高仓库效率方面具有巨大潜力。2023 年 9 月,Agility Robotics 公司在俄勒冈州塞勒姆开设了首座年产能可达 1 万台的机器人制造工厂 Robofab。随着工厂的投产,Agility Robotics 于 2024 年完成首批 Digit 机器人的交付,并于 2025 年全面上市,预计定价 25 万美元。Sanctuary AI:PhoenixPhoenix 是 Sanctuary AI 推出的一款人形机器人,它被设计为具有类人智能,能够帮助完成广泛的工作。Phoenix 的身高为 5 英尺 7 英寸,体重为 155 磅,最大负载为 55 磅,最高速度可达每小时 3 英里。它的机械手具有 20 个自由度,模拟触觉技术使其操作精细度堪比人手。此外,其美学设计也有所提升,采用更大胆的色彩和纹理,使 Phoenix 在功能性与美观性上都达到了新的高度。Phoenix 的特点在于其学习新任务的速度很快,而且成本比以前低。相比以往更多关注于机器人的腿部和行走能力,Sanctuary AI 最新发布的第七代 Phoenix 特别强调了机器人的上半身,尤其是躯干部分的动作。Sanctuary AI 的联合创始人和 CEO Geordie Rose 在社交平台 X 上表示:通过第七代技术,公司能够捕获更多高质量、高保真的人类行为数据。这些数据的积累反过来有助于加快 AI 模型的开发,使机器人能更快地部署到实际的工作环境中。1X Technologies:NEOOpenAI 的亲儿子不只“Figure”一个,1X Technologies 也是被押注的对象之一。1X Technologies 是一家专注于研发人形机器人的公司,其最新的产品是 NEO 机器人。NEO 机器人是一款专为家庭和其他服务用途设计的双足人形机器人,它的设计灵感来源于人类,能够执行各种家务任务,旨在为人们的生活带来便利。身高为 1.65米的 NEO 机器人,体重达到 30 公斤,行走速度可达 4 公里/小时,跑步速度为 12 公里/小时,载重能力为 20 公斤,运行时间为 2-4 小时。NEO 的身体构造模仿人类的肌肉结构,确保坚固的同时也具备柔韧性。1X Technologies 在 2024 年 5 月宣布完成了 1 亿美元的 B 轮融资,这笔资金将用于推进 NEO 机器人的研发和商业化进程。作为通用人形机器人,NEO 能够处理物流、制造、操作机械等工业任务,同时提供清洁、整理家务以及日常陪伴等生活服务。傅利叶智能:GR-1傅利叶智能的 GR-1 通用人形机器人是一款高度仿生的机器人,它拥有高度可扩展的设计,能够实现多种 AI 模型与算法的验证。GR-1 的全身由 32 个 FSA 关节构成,最大模组峰值扭矩达到 230NM,这些特性使得 GR-1 在工业、康复、居家、科研等多应用场景中具有巨大的潜能。GR-1 的身高为 1.65 米,体重达到 55 公斤,全身自由度多达 40 个,最大关节模组峰值扭矩可达 300NM,步行速度可达到 5KM/h,负重 50 公斤。它采用了自主研发的 FSA 高性能一体化执行器系列,确保了在行动过程中的灵活性,并具备力量、稳定性、负载适应能力以及安全性与可靠性。傅利叶智能成立于 2015 年,经过多年的深耕,公司已经在健康、教育等多个场景下对市场需求进行深度挖掘,并推出了 30 多款智能康复产品,服务于全球 40 多个国家和地区的 2000 多家医院和机构。2019 年,傅利叶智能正式启动通用人形机器人项目,成为中国较早一批通用人形机器人先行企业。波士顿动力:Atlas2017 年,会空翻的波士顿动力人形机器人 Atlas 惊艳了全世界 ...7 年后,液压驱动的 Atlas 宣布退役,取而代之的则是更为高效,环保的电动驱动 Atlas。电动驱动系统使得 Atlas 的动作更加流畅自然,接近人类的运动方式,提升了运动效率和稳定性。波士顿动力官方曾分享了一段关于新 Atlas 的视频。视频中,该机器人先是一动不动地趴在地上,随后通过脚部以及头部的巧妙旋转,完成了一个完美的站立。官方称:“下一代... PC版: 手机版:

封面图片

@梁州Zz几天前在小红书看到一个标题名为“全员npc的乌镇还有多少惊喜是我不知道”的热帖,帖主在帖中提到,“没想到乌镇的河水是可

@梁州Zz 几天前在小红书看到一个标题名为“全员npc的乌镇还有多少惊喜是我不知道”的热帖,帖主在帖中提到,“没想到乌镇的河水是可调节的。”其实像乌镇这样由人为制作的为旅游业而服务的“楚门的世界”,在过去的二十年内,已然发展成为了一种完备的、制造永远封闭的假象系统的产业链。 2008年,以中大旅游学院为首的几位学者曾经在《符号化的“原真”与遗产地商业化基于乌镇、周庄的案例研究》的论文中详细地讲述、分析了楚门的世界存在的合理性与其缘由。 学者在文章中提到一个观点,我十分认同,在当下,“遗产地”的商业化近乎是不可逆转的趋势之一。 于游客而言,他们所需要的是他们想象之中的古镇,是一个永远封闭的假象系统 。在这个系统里,旅游者们从未放弃过对真实的寻找,但在寻找的过程里,客体的原真性( authenticity)已然不再重要。 游客需要在体验旅游客体的过程中感受到家的温暖,例如干净的客房,舒适的大床,以及随处可见的现代化的服务措施,但同时,他们又需要在寻找古迹的过程里看见“自我”。学者王余将这一种原真性总结为“定制化的原真性 ”。也即是“楚门的世界”。 从丽江,到乌镇、周庄,到近年来爆火的阿那亚,广泛增长的客流量用数据告诉我们,楚门的世界无疑是“正确”的商业选择。 以阿那亚的成功为例,这个被人为营造出的中产乌托邦无疑最好的例证。在这个连厕所里都印刷着阿瑟米勒的诗句的乌托邦里,具有着一切要素完备的体验措施。社区内部,文化沙龙,戏剧节,沙滩还有酒桌随处可见。它时尚,精致,甚至连理想国书店门口的树荫都显得如此规整,当你打开苹果的前置摄像头以后,你会发现这个社区的每个角落都如此“优雅”,它在镜头里熠熠生辉,哪怕一墙之外的荒地与早餐摊是如此落寞,像是一片冗长的、尚未开发的休止符。当园区的游客步行至这里,则意味着他们已然离开了那座人造的象牙塔。 这样的乌托邦,像是过去几十年内高速发展着的旅游社区的一隅缩影。 但与阿那亚有所不同的地方在于,乌镇与周庄的爆火,其背后的原因,与遗产旅游的应运而生有着密不可分的关系。近十年来,人们的怀旧心理兴起,大众的游客愈来愈倾向于寻找某一类文化或活动所代表的符号或印象。“‘原真性’ 变成了某种符号, 而旅游活动, 不再是对真实的寻找, 而是对符号的寻找。” 在这个过程里,什么是真?什么是假?一个古镇是否“原汁原味”?似乎也成为了游客们重要的选择标准之一。 在学者走访、询问多位曾经游访过周庄、乌镇两地的游客后,调查数据显示,游客对周庄的原真性感知评价明显高于乌镇换而言之,游客们认为周庄更像“历史中的古镇”。 但实际上,乌镇的整体规划,已经是以“以旧修旧, 以存其真”为总体构想来进行的,目的就在于使乌镇的千年沉淀原汁原味保留下来。“所以乌镇吸引人的不仅是古镇的 “形”, 更重要的是古镇的“神” (宋丽宏、华峰,2005) 。 为了真正还原古镇的“神态”,有位生活在乌镇附近村落的朋友告诉我,早年的乌镇在扩建修路时,甚至一度在周边的村落广泛收集青石板。因为它们需要“原汁原味”的青石板来铺就乌镇的道路,已达到其拟神的目的。 但是,还原古镇面貌的“真假”尚且可以依托其原貌而定夺,游客心目中的“原汁原味”,却始终是具有强主观性的,它并不以设计师们的想法为导向。 有些东西寻找的时候,已然失去了。 “周边园林景观”、“小桥流水场景 ”、“小巷古宅场景”,是游客们评判古镇“原真性”的重要考虑元素。当游客在旅途过程中开始评判古镇的“原真性”时,则不可避免地似乎陷入了关乎自我的想象中,过去的经验告诉我们,由书本中学到的关于古村 /镇特征的知识应当是正确的,从电视、报纸等多种媒体中获得的关于古村 /镇的综合印象应该是确切的。 但当一座沉睡了千年的古镇以其原有的形态出现在游客的眼前时,它得到的评价却不可避免地成为了“它看起来不真实。”“这不是我想象中的古镇的模样。” 这也是众多遗产旅游地在商业化的道路上愈来愈趋近于同质化的原因,“乌镇”的商业化,已然是选择过的结果。事实上,周庄经验和乌镇模式已然成为了过去十年内重要的旅游示范项目。愈来愈多旅游投资者期望复制它们的商业模式一种片段化的体验。 于游客而言,旅游的一大重要因素,则在于寻找差异而出门,游客们期望获得的是原真的遗产地与我们所生存的环境截然不同的差异,是江南水乡中“小桥流水”、“临水而世”的想象。在这其中,前置的文化想象与宣传成为重要的评判标准。 可以人为调控溪水的乌镇,就像模拟人生中由经营者精心布局的主题公园,经营者有计划地通过有结构的商业结果所体现的数据不断地控制、改造游客的体验效果,当我们进入园区的那一刻起,我们则开始进入固定的程式,这样的体验方式、体验节奏,是被试验过上万次的最优解。 这样的最优解,就像阿那亚园区里那片被设定好的树荫,当游客站在被精心修剪过的枝芽的绿树下,感慨着如此春和景明的景象时,它似乎与常常被配以文案的“我的生命是一万次的春和景明”形成了某种意义上的闭环。 因为这样的绿意,眼前的郁郁青青,岸芷汀兰,是真正经由过一万次人为修建的景明。 #乌镇 楚门的世界##梦游人随记#收起

封面图片

OpenAI正引爆一场全球AI安全热战

OpenAI正引爆一场全球AI安全热战 “SSI是我们的使命、我们的名字、我们的整个产品路线图,因为它是我们唯一的焦点。我们的团队、投资者和商业模式都是以实现SSI为目标。”伊利亚、科技企业家和投资者Daniel Gross、OpenAI前科学家Daniel Levy在该公司官网发表的联合署名文章中称,“构建安全的超级智能,是我们这个时代最重要的技术问题。我们计划尽快提升能力,同时确保我们的安全始终处于领先地位。”伊利亚透露,该公司已经启动了世界上第一个直接的安全的超级智能实验室,只有一个目标和一个产品:一个安全的超级智能。但目前,SSI并未公布公司的股东、科研团队和盈利模式。实际上,伊利亚离开OpenAI,很大程度上就是因为与OpenAI CEO奥尔特曼(Sam Altman)为核心的管理层存在分歧,尤其是在如何驾驭超级AI、AGI(通用人工智能)安全发展等问题上存在相反的观点。其中,奥尔特曼和OpenAI总裁Greg Brockman倾向于加速商业化,以获得更多资金来支持AI模型的算力需求,力求快速增强AI的力量;而伊利亚等人则希望AI更安全。去年11月,双方矛盾激化,OpenAI上演“宫斗”大戏,结果奥尔特曼和Greg Brockman在短暂离职后重归OpenAI,原董事会中的多位董事离开,伊利亚则在今年5月宣布离任。对此,国内AI安全公司瑞莱智慧(RealAI)CEO田天对钛媒体AGI等表示,奥尔特曼和伊利亚之间的分歧在于对AI安全的“路线之争”,伊利亚的新公司就是为了 AI 安全目标而设立的。田天指出,包括伊利亚、图灵奖得主Geoffrey Hinton等人认为,AI安全问题现在已经到了“非常迫切”去解决的程度。如果现在不去做,很有可能就会错过这个机会,未来再想亡羊补牢是“没有可能性”的。“大模型领域也是一样。虽然我们对于大模型预期非常高,认为它在很多领域都能去应用,但其实现在,真正在严肃场景下的大模型应用典型案例还是非常少的,主要问题在于 AI 安全上。如果不解决安全可控问题,对于一些严肃场景,是没有人敢去信任AI,没有人敢去用它(AI)。只有说解决安全、可信问题,AI才有可能去落地和应用。”田天表示,如果一些商业化公司对于安全问题不够重视、并毫无边界快速往前跑的话,可能会造成一系列安全危害,甚至可能对于整个全人类有一些安全风险和影响。早在聊天机器人ChatGPT发布之前,伊利亚便提到AGI对人类社会可能的威胁。他把AGI与人类的关系,类比人类与动物的关系,称“人类喜欢许多动物,但当人类要造一条高速路时,是不会向动物征求意见的,因为高速路对人类很重要。人类和通用人工智能的关系也将会这样,通用人工智能完全按照自己的意愿行事。”AGI,即人工智能已具备和人类同等甚至超越人类的智能,简单而言就是能说会写,具备计算、推理、分析、预测、完成任务等各类人类行为。这样的AI曾经遥远,但在OpenAI推出第四代模型GPT-4且正训练第五代模型GPT-5时,AGI看似近在咫尺。今年以来,AI 安全问题持续引发关注。今年1月,美国一位流行歌手被人用AI恶意生成虚假照片,在社交媒体迅速传播,给歌手本人造成困扰;2月,香港一家公司遭遇“AI变脸”诈骗,损失高达2亿元港币,据悉,这家公司一名员工在视频会议中被首席财务官要求转账。然而,会议中的这位“领导”和其他员工,实际都是深度伪造的AI影像。诈骗者通过公开渠道获取的资料,合成了首席财务官的形象和声音,并制作出多人参与视频会议的虚假场景。整体来看,为了实现AGI目标,当前,AI系统在设计上主要面临五大安全挑战:软硬件的安全:在软件及硬件层面,包括应用、模型、平台和芯片,编码都可能存在漏洞或后门;攻击者能够利用这些漏洞或后门实施高级攻击。在AI模型层面上,攻击者同样可能在模型中植入后门并实施高级攻击;由于AI模型的不可解释性,在模型中植入的恶意后门难以被检测。数据完整性:在数据层面,攻击者能够在训练阶段掺入恶意数据,影响AI模型推理能力;攻击者同样可以在判断阶段对要判断的样本加入少量噪音,刻意改变判断结果。模型保密性:在模型参数层面,服务提供者往往只希望提供模型查询服务,而不希望暴露自己训练的模型;但通过多次查询,攻击者能够构建出一个相似的模型,进而获得模型的相关信息。模型鲁棒性:训练模型时的样本往往覆盖性不足,使得模型鲁棒性不强;模型面对恶意样本时,无法给出正确的判断结果。数据隐私:在用户提供训练数据的场景下,攻击者能够通过反复查询训练好的模型获得用户的隐私信息。北京智源人工智能研究院学术顾问委员会主任张宏江在2024北京智源大会上表示,过去一年大模型发展速度之快,行业纷纷探讨通用人工智能的实现路径与曙光,但AI安全问题的严重性与紧迫性不容忽视。“当我们从不同层面 AI 能安全问题进行审视,除了对社会偏见,错误信息,潜在的工作替代或者大模型、自主机器人带来的大规模自动化而导致的工作流失,以及潜在的加速财富集中或财富两极化等问题有所了解,更应该关注 AI 可能带来新的经济体系和包括潜在的灾难性风险或误用事故,甚至可能导致延伸性的人类风险。AI 安全已有很多声明和请愿,但更重要的是明确目标、投入资源、采取行动、共同应对风险。”张宏江表示。北京智源人工智能研究院理事长黄铁军表示,水深流急,AI安全已进入风险很突出的阶段。应对AI安全风险,需要对AGI水平和能力进行分五级,而且,人类应该致力于解决 AI 安全问题,加强与国际社会在AI安全领域的合作,确保AI技术可控,迎接安全AGI的到来。AGI水平和能力的五个级别生成式AI技术是一把双刃剑,如何把生成式AI的强大能力用于建立信息安全规范,将制约行业发展的“绊脚石”变为“压舱石”?业界一直在探索“用技术治理技术”的方案。就在6月21日,瑞莱智慧推出全球首个可实时检测AI合成内容产品RealBelieve,中文名“尊嘟假嘟”。据悉,与此前国内外AIGC检测产品被动上传检测不同,RealBelieve主要面向终端用户,能够提供主动实时检测防护,可接入视频流鉴别人脸真伪,也可在用户浏览网页内容时提供AIGC合成可能性提示。不仅可以为终端用户提供文本、图片、视频和音频多种模态的文件上传检测服务,还可以通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容,变被动为主动。目前,尊嘟假嘟RealBelieve已开启内测招募。田天表示,作为国内为数不多专攻 AI 安全领域的公司,瑞莱智慧已服务百余家政务、金融等领域客户。随着AI技术的发展,安全在整个AI发展中的优先级一直在往前去走。未来 AI 技术要往超级智能方向发展的话,必须要建立整个安全体系,从而确保形成安全的超级智能技术。“如果现在不去做好 AI 安全的话,可能后面我们就没有机会了。”田天称。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人