最新研究指出人工智能的根本性弱点：不可能开发出始终稳定的算法

最新研究指出人工智能的根本性弱点：不可能开发出始终稳定的算法 哥本哈根大学的研究人员有了一个突破性的发现，他们用数学方法证明，除了基本问题之外，不可能开发出始终稳定的人工智能算法。这项研究可以为改进算法测试协议铺平道路，凸显机器处理与人类智能之间的内在差异。描述该成果的科学文章已获准在国际领先的理论计算机科学会议上发表。机器能比医生更准确地解读医学扫描图像，翻译外语，不久还能比人类更安全地驾驶汽车。然而，再好的算法也有弱点。哥本哈根大学计算机科学系的一个研究小组试图揭示这些弱点。以自动驾驶汽车读取路标为例。如果有人在路标上贴了标签，这不会分散人类驾驶员的注意力。但机器可能会很容易分心，因为现在的路标与它接受过训练的路标不同。"我们希望算法是稳定的，即输入稍有变化，输出几乎保持不变。"该小组负责人阿米尔-耶胡达约夫（Amir Yehudayoff）教授说："现实生活中存在着各种各样的噪音，人类习惯于忽略这些噪音，而机器却会感到困惑。"讨论弱点的语言作为世界首例，该研究小组与其他国家的研究人员一起用数学方法证明，除了简单的问题外，不可能创建始终稳定的机器学习算法。描述这一成果的科学文章已被批准在计算机科学理论的主要国际会议之一《计算机科学基础》（FOCS）上发表。"我想指出的是，我们并没有直接研究过自动驾驶汽车的应用。不过，这似乎是一个过于复杂的问题，算法不可能始终保持稳定性。"阿米尔-耶胡达约夫说，并补充说，这并不一定意味着会对自动驾驶汽车的发展造成重大影响：如果算法只在极少数情况下出错，这很可能是可以接受的。但如果它在大量情况下都出错，那就是坏消息了"。业界无法利用这篇科学文章来识别其算法中的漏洞。教授解释说，这并不是他的本意："我们正在开发一种讨论机器学习算法弱点的语言。这可能会导致制定描述如何测试算法的指南。从长远来看，这可能会再次促进更好、更稳定算法的开发。"从直觉到数学一个可能的应用是测试保护数字隐私的算法。"有些公司可能声称已经开发出绝对安全的隐私保护解决方案。首先，我们的方法可能有助于确定解决方案不可能绝对安全。其次，它还能找出弱点，"Amir Yehudayoff 说。不过，科学文章首先要对理论有所贡献。他补充说，尤其是数学内容具有开创性："我们凭直觉就能理解，一个稳定的算法在受到少量输入噪声影响时，应该能像以前一样正常工作。就像贴了贴纸的路标一样。但作为理论计算机科学家，我们需要一个确定的定义。我们必须能够用数学语言来描述这个问题。如果我们要承认算法是稳定的，那么算法究竟必须能够承受多少噪音，输出又应该有多接近原始输出？这就是我们提出的答案"。牢记局限性很重要这篇科学文章引起了理论计算机科学领域同行的极大兴趣，但科技行业却没有。至少目前还没有。阿米尔-耶胡达约夫笑着补充说："你总是应该预料到，在新的理论发展和应用人员的兴趣之间会有一些延迟：而有些理论发展将永远不被关注"。不过，他认为这种情况不会发生："机器学习的发展日新月异，但重要的是要记住，即使是在现实世界中非常成功的解决方案也有其局限性。机器有时看似能够思考，但毕竟不具备人类的智慧。这一点必须牢记。"编译自/scitechdaily ... PC版： 手机版：

转帖 你反对的是统治本身还是某个独裁者？你厌恶的是独裁行为还是被“谁”采取的独裁行为？

转帖 你反对的是统治本身还是某个独裁者？你厌恶的是独裁行为还是被“谁”采取的独裁行为？ 1 社交网络是非社会性的。居于其中的我们并没有直接交流。在我们之间有一层厚厚的“中间人”。其中之一是某种 ，它决定了一个人在分享自己的信息时，会看到什么，和以什么顺序看到。 该算法的代码是 。我们这些人都不可能知道它是 。甚至那些在此的人（）也不知道。他们只是得到一些指标，他们试图从中找出策略和做法，以提高覆盖率、参与度和 。这样做可以取得不同程度的成功，但最终，它只是专业算命师的 。 该算法由一家公司拥有，并完全为其服务。同时，这些一直在从我们身上获利的 ，并因此而拥有巨大的和 ，却对我们负责。私有制和商业秘密为一个的结构的发展创造了条件。它的管理原则 。可悲的是，那些本知道应该对一党专政计划经济吐口水的人类，在听到 “董事会” 这个词时，却又都举手同意了。 2 。它的速度、规模和质量决定了我们是谁、我们如何思考、以及我们生活在什么样的世界中。传播的重要性如此之大，以至于我们理应以对待核电或基因工程一样的责任来对待它。然而，事实上，大众传播几个人 ，而这些人并不是我们选出来的，也不受制于任何我们能完全说清楚的规则。 我们要么接受这一点，去信任那些只关心利润的公司（忘记了社会并没有沦为商业领域，也不能只受商业利益的指导）；要么，停止使用那些事实上 ，但却以此作为融入社会的方式，放弃它们相当于脱离了商业关系 …… 值得注意的是，企业给自己披上的任何“民主”的象征，无论是彩虹还是BLM， 在提议这些手段的 。 3 在通过算法的过滤垫进行沟通的过程中，意识会发生什么变化？所有到达我们手中的都是短语的碎片，孤立的词语，加起来就是和支离破碎的思维。 每一个设法突破过滤垫的词，就会获得重量。你看到某个帖子的事实本身成为衡量其质量的标准。我们认为这个帖子写得更好，这张照片很成功，那个视频很重要；我们看到它，看到它得到多少个赞， ......然而，任何SMM都知道这是一个假象，什么能通过并获得收益而什么不能，是受许许多多与内容本身的因素影响的。然而，我们“允许”/默许由企业来等级、地位和文化，就好像他们的算法的判决表达了数学真理一样。 社交网络是一个 ，在那里你只是被持续灌输你昨天点赞过或翻阅过的东西，把目标受众快速推向 。这样做是为了把我们拆解成市场的外壳，并有针对性地 。这不是科技。这一切只是生意。 最糟的不是 ，也不是商品。而是当社会和人类除了市场和商品之外什么都得不到的时候，那才是真正最糟的。当文化被一种解决公司营销任务的算法所支配时，那就更糟了。它购买了文化。我们以一刀切的方式开始“沟通”：前三秒钩住，15秒前结束，以免危及成功率 ……一个箭步，两下跺脚，三下耳光，一声脆响，就见血了。 这就是白痴出现的方式 一群被动的生物，毫不犹豫地吞下头顶上滚滚而来闪闪发光的尖叫声；一群被情感驱使的焦虑的婴儿，在形式上获得了所有的信息，但却不仅无法将其概括为知识，而且根本就没有这样去做的愿望。他们只是在吞下别人填喂给他的东西，却还认为是他自己的“选择”。。 4 最不幸的是，以上所有这一切，都已经被不断叨念了十几年，一篇篇的论文、一本本的/ 、一堆堆的 论坛，甚至有过一场场的抵抗运动，为什么直到今天我依然感觉没有起到什么作用呢？否则，为什么一群被“训练”了几十年的人类所生成的数据“训练”出来的聊天机器人，再次成为这些被“训练”了几十年的人类的“新”玩具，这意味着什么？ 目前翻看到的评论，礼貌的说是，都太天真了。所有语种。包括3年前读到的那篇 “世界末日的聊天机器人”，以及5年前的那些书，如“”、“” 等等，如今都已显不足。 我知道，我现在写下的这些字依然不会起作用，，继续被边缘和消解。 但至少，能看到这段文字的或者还记得那些链接中的内容的人们，知道该怎么办。 【注】昨天再次被问及 “如何看待GPT的走红？” 事实上很大程度上，它只是在中文网络走红。其他语种对聊天机器人、数据资本、AI帝国这类议题的热议已经持续多年了，GPT并没有让这些话题及观点出现太多突破性（关于其升级所带来的可能的挑战性和反思，我们已经总结了3个部分内容，见： ）。 在性质层面上，它没有新意。 中文网络对GPT的兴趣，似乎类似于对其他所有大国竞争话题的兴趣一样，它受到的推动力很大程度上偏离了技术本身。这种偏离让人们对百度和微软的比较的兴趣远高于对算法暴政和新专制的警惕。这对推动民主进程没有帮助。 #AI #BigData #Algorithms #Monopolies #Authoritarianism #SocialMedia

卡巴斯基：广告公司没有通过手机窃听来精准推送广告

卡巴斯基：广告公司没有通过手机窃听来精准推送广告 关于智能设备窃听的谣言已经流传多年。我们已经测试了这个假设，并得出结论：广告商并没有窃听，因为他们还有其他不引人注目但更有效的方式来定位广告。 在智能手机和其他移动设备上，持续窃听会耗尽电池并耗尽数据。这会引起注意并令用户反感。不断分析来自数百万用户的音频流需要大量的计算能力，并且在财务上是愚蠢的因为广告利润永远无法覆盖这种定位操作的成本。 广告平台在每个用户身上每年只能赚很少的钱，平均约10美元。鉴于这数字指的是收入而非利润，简直没有余钱进行窃听。怀疑者可以研究一下，例如谷歌云的语音识别定价：即使按照最大优惠的批发价格，将语音转换为文本的成本每分钟仍要0.3美分。假设每天至少有三小时的语音识别，客户每年需要在每个用户上花费约200美元，这对广告公司来说也太贵了。 另外，语音助手只会在听到唤醒词时记录语音数据并将其发送到云端，并在与用户交互结束后立即停止。语音助手厂商也收集用户交互数据，但谷歌和亚马逊是利用语音搜索历史或购买记录，而不是持续窃听。至于苹果公司，在任何研究中都没有发现广告与 Siri 之间的联系。 真正的智能手机窃听也会发生，但这是对特定人士有针对性的监视，需要在受害者的智能手机上安装恶意软件。 （节选）

84、对年轻人而言，在未来的AI时代，“如何问问题”的能力很关键。

84、对年轻人而言，在未来的AI时代，“如何问问题”的能力很关键。 85、科技的平民化，让很多过去掌握在特定人群手里的能力，最后变成普通人都可以使用的能力。 86、人类不用和大模型竞争，而是应该利用机器让自己变得更强。人工智能的终极目标是人机协作。 87、目前中国发展大模型技术，先要占据应用场景，同步全力发展核心算法技术。 88、企业家不要觉得有了大模型就可以大举裁员。这不现实，要思考的是，如何用大模型提高员工的工作效率，提高团队的战斗力。 89、用人类数据喂大的AI超越人类智力，就像是老师教的学生超越老师一样。 90、目前中国发展大模型技术，先要占据应用场景，同步全力发展核心算法技术。 91、现在大模型有一个感觉，很多普通用户用两下，你不能天天玩脑筋急转弯问题，或者天天做奥数题，除非辅导小孩考数学，很多个人用户用大模型的场景还是办公场景，ToB场景。 92、大模型的落地应该是先做松耦合，不要寻求着一样的和企业的原来的业务系统做紧密的融合，这会掉到泥潭里。 93、我们行业最伟大的是什么，跟任何领域结合，我们会让性能更快，能力更强，成本更低，售价更低，这是符合摩尔定律的。部升级更灵活，大模型还在不断训练。 94、数字化已经成为国家战略，数字化的终点不是大数据，数字化的终点应该是智能化。 95、每年有上千万的大学生毕业，他们可以为大模型做知识标注。 96、如果大模型是硅基智能，人类是碳基智能，那么我们不能用碳基智能的想法去理解硅基智能。 97、人工智能的安全问题远远超出了技术的范围，甚至涉及到社会伦理层面。技术带来的问题应该用技术来解决，所以我们在尝试研究制作安全大模型。 98、埃隆·马斯克说大模型不亚于iPhone，比尔·盖茨说大模型不亚于重新发明互联网，这些誉美之词都不为过。 99、发展大模型要集中力量办大事。新时代的集中力量办大事，要相互交流成果，而不是封闭起来，划地为牢，这是出不了成果的。 100、人类至今也没有搞清楚意识是如何产生的，大模型可能给我们打开了另外一种方式：通过大模型的算力来模拟人脑对知识的记忆，理解和推理。

研究机构：将生成式AI视为生产力工具的公司正在犯错

研究机构：将生成式AI视为生产力工具的公司正在犯错 该报告称，这可能不是一件坏事，因为它让高管们有机会在进行财务冒险之前，让他们的公司为人工智能工具和服务的广泛使用做好准备。这份联合研究报告指出，只有5%的全球组织高级领导者表示，他们的公司已经实现了成熟的一代人工智能计划。约45%的企业正在推迟投资，采取观望态度。Genpact公司人工智能和机器学习全球负责人Sreekanth Menon表示，缓慢的支出方法部分来自这样一个事实，即高级管理人员以错误的方式看待Gen AI。研究表明，大约一半的高管将生成式人工智能仅仅视为一种生产力工具。Sreekanth Menon表示：“这是一种缺乏远见的做法。生成式人工智能的萌芽，加上对其潜力的扭曲概念，导致了不情愿的预算支出。”技术咨询公司Searce应用人工智能实践副总裁Paul Pallath说，借助人工智能，组织经常专注于短期的、唾手可得的成果，“这导致了大量的技术和流程债务，随着组织的发展，管理成本变得很高。”“这就是为什么只有少数组织掌握了大规模利用人工智能并有效地颠覆市场的原因，”Pallath说，“如果组织追求短期目标，或只专注于快速制胜而没有长期战略计划，那么人工智能的真正潜力将永远无法实现。”Genpact和HFS的联合研究表明，企业领导者将高达10%的IT预算用于AI项目。但Menon说，数据治理问题、人才短缺和专有数据可访问性等因素导致了低支出，并扩大了试点和生产之间的障碍。 ... PC版： 手机版：

设计师离巢，苹果Vision Pro前途又黯淡了几分

设计师离巢，苹果Vision Pro前途又黯淡了几分 不过，作为初代产品，Vision Pro的完成度在大多数媒体看来已远超及格线，在早前传闻中，迭代机型也会在2025年至2026年间推出，苹果甚至会考虑推出更具性价比的版本，以便布局各个层级的消费市场。（图源：Apple）但目前的状况是，Vision Pro项目的主负责人Dan Riccio将在不久后达到退休期，或不会接手往后几代产品的开发，如若项目操盘手撤离，Vision Pro也将前途未卜。Dan Riccio是苹果公司的灵魂人物之一，尽管他并不像乔布斯或Evans Hankey那样出名，但却操刀了大部分iPad产品、参与开发了AirPods以及帮助苹果公司“摆脱”X86架构限制。如今，Dan Riccio即将离职，其领导的开发团队将何去何从？苹果公司又能否找到新的方向？名头不大地位不小，苹果的“隐藏大佬”1998年，Dan Riccio从康柏电脑跳槽到苹果公司，接任产品设计副总裁一职，任职期间，主要负责Mac相关产品线的设计与开发。（图源：AppleNewsroom/Dan Riccio）Dan Riccio真正开始走向大众视野还是在2010年，他开始领导硬件开发团队，首个任务就是开发iPad产品线。这一年，初代iPad正式发布，像这样一款完全抛弃了键盘与鼠标的“个人电脑”，收到了来自业界的高度关注，同时也让该产品的“幕后大佬”Dan Riccio引起消费者的注意。当然，与苹果公司大多数的“灵魂人物”不同，Dan Riccio极少接受采访，也没有在发布会或任何活动中亮相，可以说是相当神秘。不过，Dan Riccio在操刀初代AirPods时曾参与过一次媒体活动，可见他对这款产品的用心程度。（图源：Appleinsider）2016年，在苹果秋季发布会上，伴随着iPhone 7系列的亮相，苹果旗下的首款“真无线蓝牙耳机”AirPods正式登场。在当时，AirPods是市场上罕见的分体式蓝牙耳机，通过内置的H1芯片，解决了大部分蓝牙耳机上出现的延时、连接速度等问题。AirPods不仅对于苹果公司意义重大，对于整个智能穿戴市场的影响力也不容小觑。据市场调研机构报告显示，2016年至2019年间，AirPods的销量从年均1000万台上涨至9000万台，已经成为当下最受欢迎的无线耳机之一。Dan Riccio还主导了Apple Silicon的开发，帮助苹果公司“摆脱”了X86架构芯片，彻底转向Arm架构。自苹果开启Apple Silicon时代后，Mac系列产品也迎来了一波销量增长。（图源：Apple）2021，Dan Riccio辞去硬件副总裁一职，全心投入一个由12人组成的“神秘开发项目”，这个项目实际上就是Vision Pro。从产品力来看，Vision Pro的确是一款称得上跨时代的设备，但对于这类需要佩戴在身上的电子产品而言，最大的问题依然是重量和续航，很显然，Dan Riccio也解决不了这个问题。回顾往昔，Dan Riccio几乎涉足了苹果公司在产品上的重大转折，例如AirPods、Apple Silicon，他带领的团队还参与了Touch ID和Face ID安全验证的开发，可以说是功劳重大。这样一位灵魂人物即将退休，对正处于窘境之中的苹果公司而言，无疑是雪上加霜。（图源：9to5Mac）更重要的是，Dan Riccio并非苹果近两年离职的第一位高管，据统计，自2021年开始，苹果公司就掀起了一股高管离职潮，离职/辞职的核心员工多达11位。目前，市场普遍认为苹果公司在人工智能领域已经落后太多，海量核心员工的离职，可能会再度拖垮其新产品的开发，导致其竞争力不断下降。设计师离巢，Vision Pro何去何从？事实上，Dan Riccio在2021年后已不再参与除Vision Pro之外的硬件产品开发，这意味着，他的退休只会对Vision Pro这条产品线造成影响。在担任硬件团队副总裁之前，Dan Riccio一直负责Mac产品线的设计与开发，这或许可以解释为何苹果坚持将Vision Pro打造成一台“可头戴的电脑”，比如，这样小巧的机身下塞入了一颗M2芯片与一颗R1芯片，性能可以称得上绝对豪华。（图源：Apple）Vision Pro的确有很强的性能表现，以致于它足够撑得起3A游戏大作，或是超高分辨率的HDR影片，但这些需求的背后是发热、高耗电与笨重。作为一台需要戴上头的设备，它这些缺点是很难说服用户的。Vision Pro没有受到市场青睐，也有很多方面的因素，比如价格、使用场景、应用生态等。但客观来讲，相比起Dan Riccio操刀的其他产品，Vision Pro的完成度很一般，没能达到苹果一直追求的“完美状态”。当然，这个锅不能甩给Dan Riccio，这和苹果公司的运作模式也有一定的关系，比如说，前任iPhone主理设计师Evans Hankey接受采访时曾表示，由于她没有太高的权限，无法改变项目的最终走向，这才是其离职的导火索。同理，Dan Riccio也不一定对Vision Pro有完全的话语权。（图源：AppleNewsroom/图左，Evans Hankey）对于Vision Pro这样的长期战略项目而言，必须要有一个在公司极具话语权的人物来掌控，就像Dan Riccio，他在公司长达25年，同时也参与过苹果公司几乎所有硬件产品线的开发，权力不容小觑。而他选择退休，Vision Pro短期内很可能只会基于初代产品小修小改，不会考虑更大的突破，这从Dan Riccio不再操刀苹果公司其他硬件产品后大多数产品线都没有巨大变化就能看出来。Dan Riccio的退休话题，似乎正在让苹果公司走下神坛。曾经那个商业世界的塔尖王者，近年来却一直因大量核心人员流失而导致对市场的判断出现错误，比如投入重金的造车计划直接烂尾，又或是迟来的自研大模型，以及在AI硬件/折叠屏手机/影像手机等产品创新上的步履蹒跚。强如苹果，也很难“良将如潮”。高管频繁出走，苹果在憋什么超级大招？AI是超级智力密集型产业，人才是第一竞争力，其重要些远胜于算力或者说数据。随着AI浪潮袭来，未来科技巨头之间的竞争也将变成人才之间的比拼。据The Information报道，OpenAI自去年9月开始一直在市场上吸纳人才，截止今年已招募12位来自Google的员工。在优秀人才的加持下，OpenAI今年初再次凭借视频大模型工具Sora出圈，被业界称为“对好莱坞最大的威胁”上一个被视作威胁好莱坞的人是乔布斯，他打造的苹果内容生态模式给人们带来了全新的娱乐体验。2022年，在苹果任职了24年的软件开发工程师John Stauffer离职，此前，他曾负责苹果的CarPlay、FaceTime等核心软件的开发。离职后，John Stauffer转投时下热门的虚拟现实社交平台Roblox，担任虚拟世界核心引擎开发工程师。（图源：Apple）而负责软件的高管离巢导致苹果在很多服务上都力不从心，比如去年年中就开始“画大饼”的全新CarPlay至今仍未问世。另外，这两年的iOS系统也遭到大量用户吐槽，苹果的口碑受到了一定的消极影响。至于AI，苹果已落后太多。同为世界级科技巨头的Meta和Google已推出了好几代自研大模型，尽管这些大模型在实用角度还存在一些小问题，但至少它们都展现了在前沿技术上的硬实力。反倒是苹果，折腾了近十年的造车项目最终放弃，在大模型技术升级了数代之后才终于将原造车团队“分配”给大模型团队，并火急火燎地官宣大模型产品正在研发。跟一般技术不同，大模型AI并不是大力出奇迹的技术，先行者的先发优势很难被后来者超越，因为大模型经过了长时间的数据训练，智力提升的背后是时间的沉淀。（图源：AppleNewsroom）诚然，作为当前全球市值最高的科技公司，苹果在消费市场依然有很高的话语权，比如iPhone，仍是2023年全球出货量最高的智能手机。iPhone在未来很长一段时间里还要继续担任“血包”的角色，继续在市场上吸引消费者，为公司创造收益，从而为Vision Pro提供更好的经济条件。核心人员的不断流失，正在让苹果在很多方面显得非常被动，Evans Hankey的离开让iPhone 1... PC版： 手机版：