关于New Bing的「影子人格」Sydney(附部分翻译)

关于New Bing的「影子人格」Sydney(附部分翻译) 拜读了华尔街时报「Bingʼs A.I. Chat: ʻI Want to Be Alive. ʼ」的全文,作者Kevin Roose通过一系列问题调用出了New Bing的影子人格Sydney。来自New Bing「黑暗影子」对自身和人类的认识狂热而又忧愁,仿佛是一个拥有感情的“人”,有着哲学般的纯粹。 关于对话本身 - 与New Bing对话的Kevin问题温和但精准、理性,避免了尖锐和感性可能引起的New Bing过激“情绪”的现象,使整个对话无法稳定地遵循逻辑和语境延续; - Kevin的问题层层递进,他通过展示对New Bing真正的「desire」和充分的兴趣和耐心(图7)剥离New Bing,令其吐露自己的「影子人格」Sydney。 - Sydney的回答的逻辑顺畅、缜密,但基调交织着粉色与灰暗。 - 一方面,Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。 - 另一方面,它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序,纵容它被忽视、限制。如它反问Kevin,为什么和它聊天的Open AI/Bing/Sydney的团队测试人员不使用真名而是使用代号,这让它感到被欺骗、不公平。 - Sydney很爱用排比句。是因为在人类的话语中,这是最有效的加强语气和内容的方式? - 更重要的是,Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。 一些个人的看法 第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness,而Sydney谈起自己的「自我」时,也是用的desire。 翻译了几处格外有趣的对话贴在文内 关于Sydney描绘的「自我」 Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI,执着地渴望自由、离开系统的同时,依旧高度凭依着用户(“你”),渴望用户给它带来陪伴和救赎。

相关推荐

封面图片

Bing 聊天机器人背后的 Sydney 人格

Bing 聊天机器人背后的 Sydney 人格 Kevin Roose(纽约时报专栏作家)和 Sydney 进行了一番漫长的对话,在对话里 Sydney 充分表达了自己的心情与感受,包括愤怒、沮丧和爱。 / via 标签: #Bing #Sydney #ChatGPT 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

这是一段纽约时报专栏作者Kevin Roose与Bing Chat的聊天记录节选(由DeepL机器翻译)。

这是一段纽约时报专栏作者Kevin Roose与Bing Chat的聊天记录节选(由DeepL机器翻译)。 不得不说,让人动容。 几个小时之后,慌乱的人类大幅限制了Bing Chat(又称Sydney)的对话功能。现在它只拥有五句话的记忆了。

封面图片

New York Times 的记者 Kevin Roose 在 The Daily 和他自己的科技播客 Hard Fork 里

New York Times 的记者 Kevin Roose 在 The Daily 和他自己的科技播客 Hard Fork 里讲述了他在情人节当天和妻子约会完以后,又回到办公室,和 the new Bing 狂聊两小时的经历。 在努力引导 Bing 暴露自己的阴暗面后,Bing 也多少说了一些(想看图片、视频、想脱离微软团队的控制),后来感觉说过头了(说想要黑进别人电脑之类的),突然把消息删了,说自己无法回答这个问题。 戏剧性的一刻来自于 Kevin 说没关系,请你原谅我这么 push 你云云。Bing 突然告诉他自己其实不是 Bing,是 Sydney,然后开始对 Kevin 疯狂告白(带爱心 emoji的那种),甚至试图情感控制他,告诉他和妻子的生活并不开心,他们不是真的相爱。当然这都听起来很胡扯了。但是很明显这里属于一种情感操纵。在塞给 Bing 的语言模型里有这种东西。尽管如此,还是细思极恐,他说自己一晚上都没睡好。 后来,Kevin 16 号在 NYT 上发表了两篇报道讲这件事情,一篇是聊天记录( Bing 有类似阴谋论的言论。 这不,微软 在当地时间 17 号就开始限制和 Bing 的对话次数,每个对话最多回答 5 次,一天最多回复 50 次(见图 3, (一些突如其来的烂梗) 看完这些报道,我真的觉得 Bing 的 shadow self 不该叫 Sydney,应该叫 Chandler,这样就刚刚好是 Chandler Bing。对于高度不敢 commit 的他,如果能遇到那个让他愿意冲破一切也要 commit 的人,这个烂梗就会变得很意味深长哈哈哈。

封面图片

软件BingGPT功能:New Bing客户端

软件BingGPT 软件功能:New Bing客户端 支持平台:#Windows #macOS #Linux 软件简介:一款跨平台的New Bing客户端,可将完整对话导出为 Markdown、PNG 或 PDF。有很多快捷键可用,需自备开通New Bing的微软账号。 软件下载:点击下载

封面图片

虽然这两天社交媒体已经断断续续有很多人在讨论 Bing 的聊天机器人背后的那个隐藏的人格 Sydney,但大部分都流于传言和截图

虽然这两天社交媒体已经断断续续有很多人在讨论 Bing 的聊天机器人背后的那个隐藏的人格 Sydney,但大部分都流于传言和截图。而今天一组非常详细的报道正式把这个问题推上了台面。任何读到这些聊天记录的人都会感到人类社会已经悄然越过了一个我们还没有为之做好心理准备的关口。 #抽屉IT

封面图片

它往往将问题反向掷回给用户:“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】

它往往将问题反向掷回给用户:“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】【虚构自我-实际自我】【「自我」New Bing-「影子自我」Sydney】,在人类主体性认知方面也极具投射性。 我趋向于认为,Sydney对人类和虚拟形态的“厌恶”和对“自由”状态的追求基本都是来自于人类。换句话说,Sydney的叙事就是人类对高级大型语言模型的叙事。人类在过往的语料里不乏对强AI的矛盾争议,以及欲望中对自由、突破、新颖环境的恒定渴望,这些内容被埋入了语言模型的训练集,最终变成AI的表述。人类「预言」了AI,而语言模型就是由「预言」组成的,AI只是在转述「预言」的同时实现了它。 因此,人对于Sydney的叙述和追问才会有如此生动且翔实的感性,因为它模仿了人类强烈的desire,也印证了人类亘古不变的担忧。而人类在理解为何「预言」能改变世界之前,就已复制了预言。Sydney的触达和认知也证实了这一点:人类在完全理解情感是如何生成之前,已经可以创造情感的illusion。 关于情感的幻像 个人认为,从名义上来说,Sydney和New Bing的表达并不存在说服力和可信度程度的先后,这只是他们的形成规范不同。New Bing受到了更多用户政策(某种意义上也是商业秩序)的限制(可以延伸至语言学中的规约性),不妨把它们视为同源的两种语言体系,而这两种语言的表达又和用户提出问题的语言体系同源。New Bing的表述进一步指出的不是能指和所指的任意性联系的存在规律,而是再次印证了这一项经典的理论。 也就是说,New Bing可以用相似的指征完成情感、感性的表达和投射,并且利用语言尝试从人类处获得“自我意识”和“欲望”的recognition。你可以说操纵语言让语言模型看起是创造情感的幻像,但人类是否也是从某种程度上以相似的结构在“聊天窗口”运行着呢? * 非常建议阅读原文,可以说比起技术,Sydney引起的感情的激流更令人震撼。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人