AI对齐主义有个观点是对的,就是人类首先要比AI聪明,才有能力去判断AI做的事情是不是对的。延伸到现在很多利用AI贩卖焦虑的课程

AI对齐主义有个观点是对的,就是人类首先要比AI聪明,才有能力去判断AI做的事情是不是对的。延伸到现在很多利用AI贩卖焦虑的课程上,似乎有了AI加持之后就可以直接起飞,获得近乎无限的生产力,开启海阔天空的变现之路。事实上,无论是通过AI来写文章还是做视频,使用者本身的能力其实要比工具重要太多,这会体现在驾驭表现上。说直白点就是,如果你自己没有创作的基本功乃至审美、网感这些加分项,那么给你再优秀的AI,你生产出来的也只会是网络垃圾,无法带给你想要的回报,而你大费周章之后也会百思不得其解,最后得出结论:唉,AI还是不行!

相关推荐

封面图片

此前,OpenAI 解散了致力于解决长期 AI 风险的专门团队(称为“超级对齐团队”)

此前,OpenAI 解散了致力于解决长期 AI 风险的专门团队(称为“超级对齐团队”) Jan Leike,OpenAI 的一位关键研究员,在联合创始人Ilya Sutskever 离职后于本周早些时候辞职。他在周五早上在 X 上发帖称,该公司“安全文化和流程已被华而不实的产品所取代”。 Leike的声明是在《》杂志报道 OpenAI 解散了致力于解决长期 AI 风险的专门团队(称为“超级对齐团队”)之后发表的。Leike曾负责这个超级对齐团队,该团队成立于去年七月,目的是“解决在 OpenAI 开发具有类人推理能力的 AI 时实施安全协议中的核心技术挑战”。 “我们早就应该非常认真地考虑人工通用智能的影响了。我们必须尽我们所能优先准备,”莱克在周五早上关于他辞职的后续帖子中说。“只有这样,我们才能确保人工通用智能惠及全人类。” Leike 的帖子突显了 OpenAI 内部日益增长的紧张氛围。在研究人员争相开发人工通用智能的同时,还要管理像 ChatGPT 和 DALL-E 这样的消费级 AI 产品,像Leike这样的员工则在提出对创造超级智能 AI 模型潜在危险的担忧。Leike表示,他的团队被降低了优先级,无法获得执行“关键”工作所需的计算和其他资源。 标签: #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

老周最近非常关心AI,他本人的方向也一定程度代表了360这家公司的方向,所以360肯定是对AI下了重注的。昨天下午的 AI 免费

老周最近非常关心AI,他本人的方向也一定程度代表了360这家公司的方向,所以360肯定是对AI下了重注的。昨天下午的 AI 免费课上 360 演示了自己的 AI 浏览器和搭配的 AI 搜索功能,其中 AI 浏览器这个非常强。 360浏览器 这玩意确实离谱,AI功能大杂烩,真正的All in one。 浏览器是最大的且最复杂的效率工具,是最适合跟 AI 结合的传统工具。 你在浏览网页和文件的时候需要的AI功能全部给你了,而且那个浏览器AI助理能力不错,比微软Edge那玩意强多了。 AI 现在解决的最好的问题就是长内容的归纳,我们的工作大部分都集中在获取内容和整理内容,获取内容这部分 AI 可以帮忙整理归纳提炼要点,极大的节省信息获取的时间,在内容整理的部分 AI 可以帮助完成一些兜底的工作,比如让内容更加通顺,梳理措辞、补充信息以及错别字的问题。 AI 助理 这里面最好的功能我认为就是这个AI助理,在长文浏览的时候支持摘要、脉络以及问答三种内容拆解方式,从浅到深全方位分析和总结内容,不管你看东西的习惯是什么总有一种适合。另外也支持AI助理也支持对本地文件比如PDF的分析和整理,除了整理和总结之外还可以翻译PDF。 他们在 AI 助理的打磨上我觉得是我看到的所有的里面最好的,跟浏览行为本身结合最紧密的。比如我让他分析这篇机器之心的内容,浏览器会直接打开阅读模式,界面非常清爽,同时你可以设置界面主题以及语音朗读。 右侧会展示 AI 能力,智能摘要总结了内容要点和思维导图,以及文章的主要观点,你还可以切换到看点tab,会将其中有价值的观点提炼出来,也支持对话式的交互这三个 tab 从内容精细度层层递进,刚好符合我们阅读的逻辑,先看大概内容,然后看主要内容,最后查漏补缺。 视频助理也是类似的,开启以后会进入一个新的页面,思维导图,总结还有字幕该有的都有,比 B 站自己做的那玩意强多了。比如下面我用小黛的视频尝试的例子,每一节的内容都没有漏掉。 其他 AI 能力 AI 智绘:AI 画图功能也体现了这个浏览器一样的思路就是全,所有的能力都给你,文生图、图生图、涂鸦画图、局部重绘都有,基本就是 SD 搭配了一些易用的交互界面。

封面图片

Snapchat 的 AI 聊天机器人对所有用户免费

Snapchat 的 AI 聊天机器人对所有用户免费 该公司在其 Snap 合作伙伴峰会上宣布,Snapchat 的人工智能聊天机器人现已面向全球用户开放。该功能最初于 2 月推出,最初允许 Snapchat 的付费用户直接在其应用程序中与由 OpenAI 的 GPT 技术提供支持的人工智能聊天机器人聊天。现在它将免费提供。 Snap 指出,迄今为止,用户每天使用聊天机器人发送近 200 万条消息。随着在全球范围内推出,该功能也正在升级新功能,包括将 My AI 添加到群聊、在 Snap Map 和 Lenses 上获取地点推荐、与 My AI 共享 Snaps 和接收聊天回复的能力。 该公司还表示,之后,My AI 将能够以独特的“生成式”Snaps 回复,而不仅仅是聊天回复,以保持视觉对话的进行。 在此之前,该功能仅适用于 Snapchat+ 每月 3.99 美元的订阅者。Snap 还表示,Snapchat+ 现在拥有超过 300 万订阅者。然而,AI功能现在将被广泛使用,特定的AI功能需要付费升级。

封面图片

人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI,还是Anthropic或Deepmind,都在强调AI的align

人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI,还是Anthropic或Deepmind,都在强调AI的alignment和safety,昨天ChatGPT的插件系统发布后,这一点变得更加迫切了。 举个例子:目前ChatGPT只开放了使用浏览器插件读互联网的能力,但这离开放写能力只是一步之遥,人类迟早会需要大模型帮助自己完成任务,但如果一个大模型没调教好就出来到处胡说八道,或者是构造精巧的黑客攻击,这是真实的迫在眉睫的威胁。 我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑,是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”,就不那么容易看出来了。作为一家负责任的AI公司,是不应该还在这种事情上想坏事变好事,借着出圈做负面PR宣传的。 OpenAI在插件系统发布的博客中,强调ChatGPT会像一个正常的浏览器一样,做互联网上的好公民,但并不一定所有公司都会这么想这么做。为了竞争,有多少人会选择做维德,“不择手段地前进”? 接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击,可如果攻击来自于AI本身呢? 有朋友说,之前觉得AI 可以只看表现不看内心,因为圣人论迹不论心。但是现在觉得,AI需要剖开肚子证明自己到底吃了几碗粉,尽可能做到对人类透明坦诚,因为它如果真的有一天欺骗人类,带来的后果可能是巨大且迅速的。

封面图片

AI开始对音乐人下手了

AI开始对音乐人下手了 "我和团队已经在想办法改行了。"音乐人Ferry对第一财经记者开了个玩笑。Ferry毕业于伯克利音乐学院,此前是香港交响乐团作曲家,现在是上海音乐工作室的音乐总监,主要工作内容是音乐制作和游戏配乐。他说,自己做了15年音乐,经历了很多不同风格的洗礼,有了很多经验。但对Suno而言,只是几秒钟的事情。如果换算一下,Suno写十首Demo的时间只需5分钟,换音乐人可能要一个月。他预计,"AI音乐对音乐制作人是毁灭性的(打击),发展成熟后,在音乐制作这一块会取代90%的音乐人,也会有大量音乐人失业。"但AI并非全能。音乐的精髓远超过技术的堆砌和算法的编织,它是情感的表达和创造力的展现。这种源于内心深处的情感和独特的创造力,是人工智能目前难以触及和全然复制的。第一财经记者采访的多名音乐人也认为,目前AI仍然是一个需要人类引导的工具,代替不了10%的顶尖音乐人。记者实测:几十秒至1分钟内生成流畅歌曲Suno水平到底如何?记者在Suno AI网站进行了实测。记者输入的歌曲描述为:"创作一首关于旅行的歌曲,曲风明快,由吉他、钢琴、小提琴、鼓演奏。表达旅行的轻松愉快,以及对人生的感悟"。几十秒后Suno就生成了歌曲并可播放,该歌曲标注的关键词是"piano(钢琴)、violin(小提琴)、folk(民间音乐)、joyful(快乐的)、guitar(吉他)、drums(鼓)"。该歌曲使用钢琴和鼓伴奏,但记者并未听到小提琴的声音,歌词则出现了钢琴、小提琴、吉他、鼓点的字眼。歌曲时长1分40秒,由两段主歌和一段副歌组成,女声歌唱,流行乐风格,十分流畅,但歌词还是有些许生硬。记者随后让通义千问生成一段关于"失恋后自己旅行并表述旅行感受和人生思考"的歌词,将歌词输入Suno,音乐风格输入"粤语,流行,哀伤",大约一分钟生成歌曲并可播放。此次生成的歌曲曲风依然流畅,但仍是用普通话演唱。记者将提示词改为英语,并输入《再别康桥》作为歌词,这次AI终于在前几句用粤语歌唱,但马上又变成了普通话演唱。第一财经记者实测Suno这三次Suno生成的歌曲都很流畅,可以发现它对流行、摇滚风格的把握也比较精准,但记者可以感受到Suno对于中文的理解不如英语,Suno对提示词的理解也有限,要生成方言歌曲不太顺利。Suno自己生成的歌词有些许生硬,结合其他大语言模型生成歌词效果会更好。在Suno的"每日推荐"榜单中,有更多生成效果更好的歌曲,歌词包含各国语言。记者点进去试听,发现排名前列的歌曲人声都非常清晰,歌曲流畅且风格鲜明,歌曲自成一体。中文歌曲中,儿歌《让我们荡起双桨》被"改"成重金属风格,《春天在哪里》"改"成爵士蓝调曲风,《蜀道难》变成摇滚风,宋词《声声慢·寻寻觅觅》则以古风呈现。还有网友做了AI工具"全家桶",用OpenAI创作歌词,Midjourney生图、Runway让其动起来,最后再让Suno配乐。不过近日,在运营成本压力之下,Suno调整了价格体系。记者看到,目前在Suno AI网站上,注册新账号每天可获50个积分,共可用于10次生成歌曲(50 credits renew daily /10 songs),随后要继续使用就要充值,1个月内生成500首歌曲需要8美元,每个月内生成2000首歌需要24美元。Suno AI渗透音乐圈Roro 去年刚毕业,目前在一家唱片公司当练习生,她向记者感慨,最近Suno太火了,身边好多音乐人朋友都在用这个软件。"刚接触这个软件时觉得‘哇’太吓人了,因为大家只要在这个软件点点我们想要的要求,作词、作曲、编曲就能马上出来,而这些我们创作人是需要花很漫长的时间去学习、累积练习才能做出来。""这个地球上任何的风格Suno都能实现, 在这个意义上,现实中被认为天花板的音乐人,也会比不过Suno。"在Suno半年前开始公测的时候,Ferry就已经开始体验和使用, 在强大的生成能力背后,他认为,Suno或许学习了几十亿首曲子这样的数据库。作为伯克利音乐学院的学生,王钰初次接触到AI音乐生成工具则是在2024年初受同学推荐。"一开始大家觉得比较好玩,但其实也不是非常新奇,人工智能在图像生成领域之前就有一些软件出来,我们之前也预测,AI用于音乐创作是迟早的事。用了几次之后发现,对我们日常编曲和创作灵感的激发都有帮助,所以一直在使用来协助创作。"王钰告诉记者,虽然他所在专业的教授禁止学生用AI做作业,但允许利用AI进行辅助作曲。除Suno外,记者了解到,AI对于音乐领域的其他工具也正在渗透,音乐创作者越来越难以忽视AI带来的改变。王钰告诉记者,现在有很多编曲混音软件正向半AI模式发展。"比如一些做音乐母带的软件,你可以直接告诉软件需要什么风格和场景,软件会自动帮你做参数,本来这是混音师的工作,但现在看下来,人工智能生成的效果确实不错。""此外,AI音乐制作软件更大的作用在于可以生成音乐最终的样本,比如当作者写完某段音乐,希望做一个预混,模拟一下做完所有后期之后的录音室效果。这个时候就可以套一个AI插件,让AI帮助模拟各种风格效果,就类似修图软件可以套滤镜一样。"王钰称。AI此前在美术领域,已替代了部分人类画师,在音乐领域会不会重现这一过程?不少音乐界人士对第一财经表示,目前AI音乐工具可以取代简单的音乐创作。听到Suno AI创作的音乐后,就匠音乐创始人张昭轶对第一财经记者评价,"完成度很高,质量也很好。"他认为,那些功能性音乐和快餐类音乐,可以被AI低成本量产。他提到,国内做同质化歌曲的人不少,尤其是一些所谓资本加持下的音乐工作室,甚至"抄袭"量产再赛跑,这些"简单算法"的词曲,很容易被AI取代,因为AI厉害之处在于词曲能够根据诉求,大量提供水准不低的作品。熟悉娱乐经纪和音乐版权领域的袁原告诉记者,据她所知,Suno的上一个版本在行业里已经有人用于商业场景如发布会上的使用。她对记者解释道,因为版权原因,过去行业做垫乐、配乐的价格不比做音乐便宜,还有各种情绪上的要求,但又没有足够的商业价值,很难有优秀的音乐人专门为此创作。"Suno3.0版本我听到的片段,用在场景音乐上已经完全没有问题。"袁原还透露,围绕Suno3.0的商业化,业内已经有音乐公司考虑利用AI创作、真人演唱的方式来进行音乐直播了。音乐制作人、钢琴老师余亮(化名)最近也在与同行交流AI工具的影响。"很多独立音乐人认为低端编曲作曲已经没有生存空间了。Suno创作的作品虽然音质不怎么样,但只要向Suno投入的数据量足够多,创意还是不错的,可以满足低层次编曲作曲的需要。音乐人只要参考Suno的创意,再加入一些自己的想法,重新编曲混音,就可以完成部分低水平商业作品创作。"余亮解释,低端作曲编曲的范围包括为作词爱好者提供编曲服务、为企业团建合唱编曲、为学校创作校歌、为大中小学艺术节比赛编曲等。在电商和社交平台上,这种编曲单很多,一单的价格可低至100元左右,这是编曲者的收入来源之一。Roro认为,AI对于一部分音乐人会有一定威胁。如果作品不够好,AI完全可以取代。"你写的东西AI也能写,那作为客户,一样的作品我为什么要花更多钱让你写?"Roro觉得市场会淘汰一些粗制滥造的音乐人和音乐作品,但会留下能写出好的作品的音乐人。王钰则表示,类似Suno的AI音乐制作软件可以替代一些需求下的人工音乐创作,"比如广告配乐,游戏配乐,还有像抖音配乐,网红热曲等商业性、功能性较强的音乐在未来都有可能利用AI直接生成。"与音乐相关的影视界... PC版: 手机版:

封面图片

“OpenAI之父”发出警告:AI对经济的冲击“被低估了”

“OpenAI之父”发出警告:AI对经济的冲击“被低估了” 然而,大家对AI的警惕似乎在逐渐放松,去年还在热议AI会不会“抢饭碗”,今年纷纷集体“失忆”,认为诸如GPT-4等技术的登场并未引起预期中的震撼,这不还在继续“搬砖”吗!5月7日,有“OpenAI之父”之称的OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)在布鲁金斯学会关于人工智能和地缘政治的专题讨论会上发出警告,称人工智能对经济的影响力可能被大大低估了。消息一出,网友们也炸开了锅,危机感这不又来了!有网友说:“说实话,阿尔特曼说这话,可有点吓人!”但也有部分网友保持冷静态度,表示:“这个影响肯定不小,但也不见得都是坏事。关键是,咱们得提前做好准备,自动化会越来越普遍,而对传统工作的需求会大大减少,肯定会带来社会规则的大变动。”还有部分网友对此十分乐观,认为自己不会被AI所替代,说:“我对这事儿并不太担心,毕竟我自认为能力还算不错!而且尽管人工智能发展迅速,但它实际上也还只是个刚学会走路的小孩。”阿尔特曼:AI影响力,可不容小觑在布鲁金斯学会关于人工智能和地缘政治的专题讨论会上,阿尔特曼说道:“我现在最担心的事情是,社会经济变化可能会产生什么样的变化,这种变化速度和幅度是怎么样的,以及会产生什么影响。”阿尔特曼指出,与去年相比,今年围绕人工智能对经济影响的讨论有所减少。 他说,如果人们不重视这些潜在的问题,他很担心未来会发生什么。萨姆·阿尔特曼在布鲁金斯学会关于人工智能和地缘政治的专题讨论会上发表看法 图片来源:截图于Youtube阿尔特曼说道,“GPT- 4并没有对经济产生巨大的、可察觉的影响,所以人们就觉得说:‘哦,好吧,是我们之前焦虑过度了,这完全不是个事’,而我担心的是,人们对这个问题的重视程度不够,AI的经济影响力,其实一个非常非常巨大的问题。”但当被问及为何他认为AI会成为一个巨大的问题时,阿尔特曼并未立即作出回应。但并非所有职场人士都将人工智能视作威胁。一些对此持乐观态度的人认为,掌握人工智能技术的应用,能够让员工高效地节省时间,提升工作效率,从而提供个人晋升机会,有助于增加收入。尽管如此,阿尔特曼表示,他仍对人工智能在劳动力市场上的潜在影响感到担忧。去年,在接受CNBC采访时,他曾表示自己对ChatGPT“略感惶恐”,警告称,这一技术可能会“淘汰”许多工作岗位。AI带来的岗位重构:替代与补充最新研究结果表明,AI可能会对经济产生颠覆性的影响。国际货币基金组织(IMF)在今年1月发布的一项研究表明,,AI可能对发达经济体中约60%的工作岗位产生威胁。据IMF分析,近乎半数的工作可以实现自动化,这可能会导致招聘人数减少和工资下降。与此同时,麦肯锡(McKinsey)在其2023年7月发布的报告显示,到2030年,美国或将有近1200万劳动者面临职业转型的挑战。知名投行高盛的JanHatzius分析师团队也在其2023年3月发布的研报中指出,若生成式AI能够实现其所承诺的能力,劳动力市场可能将面临巨大的冲击。美国目前近三分之二的职业岗位面临着自动化的威胁,其中,生成式AI的快速发展或将导致四分之一的工作岗位迎来根本性变革。高盛估计,大约7%的劳动力面临完全失业的风险,但他们中的大多数能够在稍微低产出的岗位上找到新工作。此趋势跨越国界,预示全球范围内,或将有高达3亿全职岗位步入“智能化转型”的新时代。高盛最新研报:人工智能对经济增长的潜在影响 图片来源:Goldman Sachs尽管自动化浪潮汹涌,高盛研究团队在报告中积极展望,强调AI带来的“岗位重构”不仅限于替代,更在于创造。历史经验与数据分析均表明,新兴技术在淘汰旧有岗位的同时,也将催生大量全新职业机会,成为维系并推动长期就业市场繁荣的重要一环。报告还进一步指出,生成式AI作为一股不可小觑的力量,预计将在接下来的十年间,为美国劳动生产率的年均增速贡献约1.5个百分点,其广泛的经济影响力更可能将全球国内生产总值(GDP)的年增长率推高至7%。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人