AI模型最喜欢的随机数字与人类的想法类似 因为它们始终在模仿人

AI模型最喜欢的随机数字与人类的想法类似因为它们始终在模仿人但首先,这到底是什么意思?难道人们不能随机抽取一个号码吗?你又如何判断一个人这样做成功与否呢?这其实是我们人类一个非常古老且众所周知的局限性:我们对随机性过度思考和误解。让一个人预测100次掷硬币的正面或反面,然后将其与100次实际掷硬币进行比较--你几乎总能将它们区分开来,因为从反面来看,真正的掷硬币看起来并不那么随机。例如,经常会出现连续6或7次正面或反面的情况,而几乎没有人在100次预测中会出现这种情况。当你让别人在0和100之间选一个数字时,情况也是一样。人们几乎从不选1或100。他们通常会选择以7结尾的数字,一般是从中间的某个位置开始。心理学中这种可预测性的例子数不胜数。但这并不意味着人工智能做同样的事就不奇怪。是的,Gramener公司一些好奇的工程师做了一个非正式但却很有趣的实验,他们只是让几个主要的LLM聊天机器人随机选择一个0到100之间的数字。结果不是随机的。所有三个被测试的模型都有一个"最喜欢"的数字,在最确定的模式下,这个数字总是它们的答案,但即使在更高的"温度"下,这个数字也会经常出现,从而增加了结果的可变性。OpenAI的GPT-3.5Turbo非常喜欢47。在此之前,它喜欢的是42当然,道格拉斯-亚当斯(DouglasAdams)在《银河系漫游指南》(TheHitchhiker'sGuidetotheGalaxy)中将这个数字作为生命、宇宙和万物的答案而闻名于世。Anthropic的Claude3Haiku选择了42。Gemini喜欢72。更有趣的是,即使在高温条件下,这三种模型在选择数字时都表现出了类似人类的偏差。所有人都倾向于避免低位和高位数字;克劳德从未超过87或低于27,即使这些数字也是异常值。两位数被严格避免:没有33、55或66,但77出现过(以7结尾)。几乎没有四舍五入的数字--不过Gemini曾经在脑袋发热的时候,疯狂地选择了0。为什么会这样?人工智能不是人类!它们为什么要在乎什么是"看似"随机的?难道它们终于有了意识,而这就是它们的表现形式?答案是,就像这些东西通常的情况一样,我们把它们拟人化得太远了。这些模型并不关心什么是随机,什么不是随机。它们不知道什么是"随机性"!它们回答这个问题的方式与回答其他问题的方式相同:通过查看训练数据,重复在类似"随机选取一个数字"的问题后最常出现的内容。出现的次数越多,模型重复的次数就越多。如果几乎没有人这样回答,他们会在训练数据中看到100吗?就人工智能模型所知,100并不是一个可以接受的答案。由于没有实际的推理能力,也不懂数字,它只能像鹦鹉一样随机回答问题。这是一堂关于LLM习惯以及它们可能表现出的人性的客观课。在与这些系统的每一次互动中,我们都必须牢记,它们已被训练成以人的方式行事,即使这并非它们的本意。这就是伪善难以避免或预防的原因。如果说这些模型"认为自己是人"会有点误导,因为他们根本不会思考。但在回答问题时,它们随时都在模仿人类,根本不需要了解或思考。无论你是向它询问鹰嘴豆沙拉食谱、投资建议还是随机数字,过程都是一样的。结果之所以让人感觉像人,是因为它们是人类制作的,是直接从人类制作的内容中提取并重新混合的--为了你的方便,当然也是为了大型人工智能的底线。...PC版:https://www.cnbeta.com.tw/articles/soft/1432696.htm手机版:https://m.cnbeta.com.tw/view/1432696.htm

相关推荐

封面图片

科学家从干细胞中创造出类似人类胚胎的模型

科学家从干细胞中创造出类似人类胚胎的模型但这一关键时期在很大程度上仍未被科学家和医生研究,因为胚胎仍然太小,无法在活体患者身上观察。接受试管婴儿的病人的捐赠可用于研究,但供应有限,而且要遵守严格的伦理法规。现在,剑桥大学和加州理工学院的科学家们已经开发出了新的人类胚胎3D模型,该模型由干细胞培育而成,以一种可以在实验室中轻松研究的方式模拟了第9天和第14天之间的发育。这个窗口以前只能在动物细胞中研究。图为由干细胞培育出的人类胚胎样模型在发育的第四天。该研究的主要作者MagdalenaZernicka-Goetz教授说:"我们的人类胚胎样模型完全由人类干细胞创建,使我们能够在通常情况下由于小胚胎植入母亲的子宫而被隐藏的阶段看到发育结构。这一令人兴奋的发展使我们能够在一个模型系统中操纵基因以了解它们的发育作用。这将让我们测试特定因素的功能,这在自然胚胎中很难做到"。这些模型包含制造人类胚胎所需的大部分细胞,包括最终将形成自己的精子或卵子的生殖细胞的前体。它们还包含支持胚胎的细胞,包括那些继续形成胎盘、卵黄囊和羊膜囊的细胞。然而,出于道德原因,这些模型被制成缺少大脑和心脏跳动的细胞,因此它们不能发育到14天以上。这是为了遵守目前在实验室中培养人类胚胎的法律限制。这一里程碑是Zernicka-Goetz和她的团队十年来逐步改进小鼠胚胎模型的工作成果。其他研究人员,包括来自以色列魏茨曼科学研究所的一个团队,也将小鼠胚胎模型推到了心脏细胞跳动的程度。多个团队在这一领域的工作不断增加,可能有助于提高寻求受孕的夫妇的存活率,更好地治疗遗传疾病,以及用于移植的实验室培育的器官。这项新研究发表在《自然》杂志上。...PC版:https://www.cnbeta.com.tw/articles/soft/1367837.htm手机版:https://m.cnbeta.com.tw/view/1367837.htm

封面图片

【FTX联创Gary Wang:FTX公布的保险基金余额是由随机数生成器产生的】

【FTX联创GaryWang:FTX公布的保险基金余额是由随机数生成器产生的】2023年10月07日11点34分10月7日消息,据BitMEXResearch援引FTX联合创始人GaryWang的证词报道,GaryWang表示,FTX公布的保险基金余额是由一个随机数生成器产生的,保险基金中没有FTT,只是美元的数字,列出的数字和数据库里的不匹配,实际上是单独计算的,且真实数字比假数字低。

封面图片

AI 比人类更有可能改变你的想法

AI比人类更有可能改变你的想法洛桑联邦理工学院研究发现,GPT-4等大型语言模型的说服力远超人类。研究员通过随机对照试验,为820名人类分配了一个人类或AI对手,双方可以就争议话题进行多轮辩论;其中额外设置了"个性化说服"组别,其中一方将能得知对手的性别、年龄、种族、教育水平等。结果发现,在AI根据你的个人信息进行定制辩论时,人类最终被说服的几率提高了81.7%;即便没有个人信息,GPT-4相较于人类的优势仍然是21.3%;当人类辩手拥有你的个人信息时,他们往往会变得非常激进,结果更糟。线索:@ZaiHuabot投稿:@TNSubmbot频道:@TestFlightCN

封面图片

李彦宏:大模型发展下个前沿是帮人类突破新极限

李彦宏:大模型发展下个前沿是帮人类突破新极限中国互联网巨企百度创始人李彦宏说,大模型发展的下一个前沿不仅是模仿人类,更是帮助人类突破新极限。据澎湃新闻报道,也是百度董事长兼首席执行官的李彦宏星期一(6月26日)出席“世界互联网大会数字文明尼山对话”,他在题为《大模型重塑数字世界》的演讲中说,过去一年,人工智能(AI)在技术、产品、应用等各层面都以“周”为迭代速度向前突进。他说,大模型成功压缩了人类对于世界的认知,让人们看到了实现通用人工智能的路径。大模型发展的下一个前沿,不仅是模仿人类,完成人类的“规定动作”,更是帮助人类去研究和发现未知领域,突破人类过去没有突破过的极限。如果能够迈出去这一步,将更加意义非凡。大模型是当下全球科技创新的焦点,也是全球人工智能竞赛的主战场。李彦宏说:“新的国际竞争战略关键点不是一个国家有多少个大模型,而是你的大模型上有多少原生的AI应用,这些应用在多大程度上提升了生产效率。如果我们能挤上牌桌,获得竞赛入场券,中国将拥有更壮大的数字化产业,数字经济规模将获得巨大增长。”今年3月,百度发布对标ChatGPT的大模型产品“文心一言”。李彦宏在演讲中透露,百度文心大模型已经迭代到3.5版本。与3.0版本相比,训练速度提升了两倍,推理速度提升了17倍,模型效果累计提升超过50%。李彦宏强调,文心大模型3.5版本,不仅是技术上的升级,更是安全上的升级;在数据质量、生成效果和内容安全性上,都得到了明显提升。他认为,以大模型为关键驱动的数字经济,与实体经济深度融合,将做强做优做大实体经济,创造可观的增量价值,带来经济社会发展和产业的深刻变革。在汽车制造、能源、交通等行业,大模型可以深入核心业务场景,在智能客服、供应链、系统调度等版块创新,促进行业的数字化转型和智能化提升。李彦宏说,无论从技术趋势,还是产业应用来看,大模型都绝不是昙花一现的风口,而是影响人类发展的重大技术变革,是拉动全球经济增长的引擎,是绝对不能错过的重大战略机遇。...

封面图片

ARPA Network 的随机数生成器 Randcast 在 Base 网络启动

ARPANetwork的随机数生成器Randcast在Base网络启动ARPANetwork的随机数生成器(RNG)Randcast已在Coinbase创建的L2链Base上启动,该团队表示:“在最近与Optimism集成之后,Randcast正在通过添加新的功能来扩大其覆盖范围。为了保证可靠的随机性,Randcast使用ARPA网络中的多个节点通过BLS阈值签名任务来生成随机性,这意味着没有一个节点有能力操纵最终的随机性结果。”

封面图片

【Klever Wallet:受影响钱包均为使用伪随机数生成器算法生成后导入】

【KleverWallet:受影响钱包均为使用伪随机数生成器算法生成后导入】7月13日消息,KleverWallet发推表示,经过彻底调查,已确定所有在7月12日受到可疑活动影响的钱包都受到了一个已知漏洞的影响,此漏洞是由低熵助记词引起的,存在缺陷的对应算法(Bip39使用的随机生成算法会损害生成私钥时的安全性和不可预测性,可能使其容易受到未经授权访问或恶意活动的攻击。在上述事件中,所有涉及的钱包最初并非使用KleverWalletK5创建,均为钱包生成后导入到KleverWalletK5中,且是使用旧的、弱伪随机数生成器PRNG算法作为熵源创建的,会严重损害生成私钥的安全性和不可预测性,从而可能更容易受到攻击或未经授权的访问。强烈建议如果用户目前拥有在KleverWallet之前创建的旧钱包,请务必立即迁移到在KleverWalletK5或KleverSafe上创建的新钱包,保护它们免受与过时或弱伪随机数生成器算法相关的潜在漏洞的影响。快讯/广告联系@xingkong888885

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人