吉米·威尔士正在考虑使用GPT来协助编写维基百科 但隐患很明显

吉米·威尔士正在考虑使用GPT来协助编写维基百科但隐患很明显但他指出,"使用人工智能将维基百科的条目数量增加两倍,我们每年的运营成本不会增加超过1000英镑"。威尔士说,一个早期的用例可能是使用像GPT这样的大型语言模型(LLM)来比较多篇文章,寻找相互矛盾的点,并利用其结果来识别维基百科的人类志愿者大军可能需要投入一些工作的内容。"我认为我们离'ChatGPT,请写一个关于帝国大厦的维基百科条目'还有一段距离,"他告诉Hambury,"但我不知道我们离这有多远,当然比我两年前想的要近。"一种可能的情况是,让人工智能去寻找维基百科上所有的许多空白--那些可能有用的页面从未被写过--并试图利用网络上的信息为它们创建摘要条目。但威尔士意识到,维基百科的整个声誉是建立在对准确性的认知上的,而这是目前像GPT这样的法律硕士的一个巨大问题。他说:"它有一种凭空捏造东西的倾向,这对维基百科来说真的很糟糕。"那是不可以的。我们必须对此非常小心。"如果让LLM编写像维基百科这样的中央知识库,那些没有被立即发现的幻觉或谎言在AI的放大作用下将开始像滚雪球一样越滚越大。人们会在自己的写作中使用这些非事实,随后的人工智能将被训练出这些非事实,从长远来看很难纠正它们,并容易使我们更深入地进入这个"后真相"时代。威尔士还担心,使用LLM来扩展资源是否会帮助或加剧维基百科的系统性和无意识的偏见问题;该资源目前是由志愿者编写和维护的,其中绝大多数是白人男性,因此该网站倾向于忽略这一群体不感兴趣的话题,并从某种角度来报道其他话题。ChatGPT的明确设计是为了在可能的情况下尝试从平衡的角度看待话题,试图将一些细微的差别带回讨论领域,在这些领域,来自不同方面的人越来越难以从任何共同点出发。但GPT在其训练数据中也有其固有的偏见问题。这是一个棘手的问题,当然也会让赞助者考虑,如果该维基百科走这条路,是否还能继续捐款给它。但现实的是,任何组织如果不围绕下一代LLM的惊人能力重新定位,就会使自己在未来的竞争中处于巨大的劣势当中。...PC版:https://www.cnbeta.com.tw/articles/soft/1352823.htm手机版:https://m.cnbeta.com.tw/view/1352823.htm

相关推荐

封面图片

维基百科创始人吉米·威尔士正致力于开发Twitter的竞争对手

维基百科创始人吉米·威尔士正致力于开发Twitter的竞争对手可以预见的是,Twitter的替代品已经涌现出来,以吸引那些希望摆脱马斯克管理和审核的Twitter空间的新用户群。Mastadon就是这样一个现有的Twitter替代方案,这是一个灵活的开源社交媒体平台,看起来很有前途,但也有自己的一系列陷阱。一些有进取心的Twitter用户甚至建议建立自己的社交媒体平台。大家最喜欢的大学论文原始资料维基百科的创始人吉米-威尔士,已经提出了与Twitter相抗衡的计划。虽然仍处于起步阶段,但威尔士希望将WT.Social变成一个成熟的社交媒体平台,摒弃算法,并将"基于信任进行排名",根据今早发布的一条Twitter线。根据WT.Social的主页,它称自己为"无毒的社交网络"。从本质上讲,WT.Social将根据用户信任的账户来确定内容的优先次序,而不是依赖一个让用户永远停不下手指去滚动的算法。根据威尔士的说法。"我不知道它是否会完美,而且我肯定我们将不得不在中途进行调整,但它必须比这个地狱网站好,是吗?一个完全基于信任的社交媒体平台可能有其自身的缺点,但它也可能是朝着正确方向迈出的一步。"这个新的基于信任的排名系统将成为该应用程序"完全改造"版本的中心,该版本将在不久的将来的某个时候上线。至于WT.Social是否会打败Twitter,成为希望摆脱马斯克治下的用户的安全港,未来将见分晓。随着许多用户考虑逃离Twitter,直到一个可行的竞争对手出现来接替这个空缺只是时间问题。不管这个未来的网站是什么,它可能会有自己的一系列磨合问题。...PC版:https://www.cnbeta.com.tw/articles/soft/1331419.htm手机版:https://m.cnbeta.com.tw/view/1331419.htm

封面图片

维基百科创始人评价ChatGPT:当前阶段"糟糕" 但50年后可能超越人类

维基百科创始人评价ChatGPT:当前阶段"糟糕"但50年后可能超越人类威尔士甚至预测,超人类AI可能需要至少50年才能实现。尽管他相信AI在遥远的未来可能超越人类,但他认为目前AI工具更可能继续支持智力活动。尽管对当前生成型AI模型提出批评,威尔士并未排除AI用于维基百科的可能性。他表示,如果开发出一种工具能够通过比对来源来发现维基百科文章中的错误,这将有助于纠正不准确之处。他甚至向EuronewsNext表示,他会考虑与一个开源AI公司合作开发与维基百科原则相匹配的项目,但他澄清目前没有具体的计划。同时,威尔士提到,这样的决定不会轻率作出。他说:“大多数企业,不仅仅是像我们这样的慈善机构,都会说,如果你要将某项技术置于你业务的核心,而这项技术又是由别人控制的,你必须非常、非常小心,因为如果他们走向不同的方向,你的整个业务可能都会面临风险。”维基百科仍然对生成型AI至关重要,因为它提供了在线发布的信息,供AI产生内容使用。因此,这个在线百科全书必须准确无偏见,这是AI和维基百科都被指责的问题。为了创造性别平衡并对抗虚假信息,维基百科拥有自己的“维基人”大军,他们大多是男性志愿编辑。威尔士表示,维基编辑人员能够区分出虚假网站,并且很容易识别出文本是否由人类编写。但偏见问题更难解决,因为它可能是历史性的;例如,19世纪女性科学家较少,当时关于她们的记载不多,这意味着维基人无法写太多关于她们的内容。或者可能是无意识的偏见,比如28岁的技术宅维基百科用户与55岁的母亲可能有不同的兴趣。多样性是尝试对抗偏见的关键,这是该公司正在努力实现的目标。威尔士说:“这是一个真正的问题,显然我们感到沉重的责任,因为世界依赖于维基百科,AI模型也依赖于维基百科。我们不想教机器人带有偏见,我们希望在整个事情的人类核心方面上做得正确。”...PC版:https://www.cnbeta.com.tw/articles/soft/1399953.htm手机版:https://m.cnbeta.com.tw/view/1399953.htm

封面图片

AI 帮助维基百科整理引用链接

AI帮助维基百科整理引用链接引用对维基百科至关重要,但它的引用经常会指向已失效的链接、不正确的信息或不可靠的来源。SamayaAI公司的研究人员开发了神经网络系统SIDE,能帮助维基百科整理其条目中不准确或不完整的参考来源,提高其质量和可靠性。系统能分析引用来源是否能支持条目中的相关断言,为不支持的引用提供更好的参考来源。该工具能为维基百科的编辑和内容审核者节省时间。来源,频道:@kejiqu群组:@kejiquchat

封面图片

外媒:一名中国家庭主妇在维基百科通过编写大量虚假条目杜撰了俄罗斯历史

外媒:一名中国家庭主妇在维基百科通过编写大量虚假条目杜撰了俄罗斯历史一名中国妇女冒充学者,花了数年时间在中文维基百科上撰写关于俄罗斯中世纪历史的另类描述,她虚构了国家、战斗和贵族。这是迄今为止最大的维基百科造假事件。这个骗局上个月被中国小说家YiFan揭穿,他在为一本书做研究时发现了一篇关于卡申银矿的文章。..."她写的内容质量很高,而且这些条目是相互关联的,创造了一个可以独立存在的系统,"资深的中国维基学者约翰-叶告诉VICEWorldNews。"Zhemao单枪匹马地发明了一种破坏维基百科的新方法"。在一群志愿编辑和其他维基人(如叶某)梳理了她过去对近300篇文章的贡献后,该骗局的规模得以曝光。——

封面图片

埃隆·马斯克追问维基百科:捐赠者的钱都去哪儿了?

埃隆·马斯克追问维基百科:捐赠者的钱都去哪儿了?马斯克认为,维基百科"绝对"不需要那么多钱来维持在线。马斯克在Twitter上说,用户甚至可以在手机上存储整个维基百科的文本副本。他要求进一步澄清,因为"好奇的人"想知道。马斯克还附上了维基百科官方财务报告和运营预算的链接,其中维基媒体基金会将43%的资金用于"直接支持"其网站,32%用于社区支持,13%用于行政和管理,12%用于筹款。维基百科是当今互联网上访问频率最高的网站之一,或者说是一个庞大的网站网络,其服务器需要合理的资金来维持一切正常运行。尽管如此,马斯克仍在继续询问,甚至提出了自己的捐款想法:如果维基百科更名为Dickipedia(混蛋百科),他愿意向威尔士的基金会提供10亿美元。埃隆-马斯克对维基百科的筹款行为表示担忧,并建议将上述更名作为其促进准确性努力的一部分。虽然一些Twitter用户对马斯克推文的可靠性提出了质疑,但必须指出的是,维基百科作为著名的在线百科全书,其运作依赖于捐赠。2022年,维基媒体基金会报告的收入为1.54亿美元,总支出为1.45亿美元。与此同时,马斯克最近向部分地区的X用户收取1美元的年费,以增加平台收入。...PC版:https://www.cnbeta.com.tw/articles/soft/1391823.htm手机版:https://m.cnbeta.com.tw/view/1391823.htm

封面图片

有骨气!> - 请广传/SHARE永不向强权屈服,坚守原则及理念、捍卫网络自由,维基百科有骨气!立即收听 PBS 公义之声

<有骨气!>-请广传/SHARE永不向强权屈服,坚守原则及理念、捍卫网络自由,维基百科有骨气!立即收听PBS公义之声http://bit.ly/PBSHKRadio维基百科创办人JimmyWales(吉米·威尔斯)周四在中国乌镇的世界互联网大会上,首次向中国官员当面提出维基百科被禁一事,但双方未有达成任何共识。威尔斯还对传媒明言,维基百科「永远不会」为在中国稳定营运而过滤敏感讯息。第二届世界互联网大会召开第二日,维基百科创办人JimmyWales(吉米·威尔斯)与中国网信办(互联网信息办公室)主任鲁炜首次会面,威尔斯介绍了维基百科及维基媒体如何在全球工作,亦问及为何中文维基百科在大陆被封锁多年,英文版也多次被封锁。威尔斯表示,双方最后未有达成任何共识,希望未来建立常规会面。当被传媒问及维基百科会否为了在中国保持稳定营运而隐藏一些敏感讯息时,他直言「永远不会」。赴会前,威尔斯曾在12月2日举行的亚洲领导力峰会上表示,将于两周内前往北京,与中国政府讨论解除对中文维基百科的封锁。但随即引起中国政府的强烈反应,中国政府将包括中文版在内的所有语言版本的维基百科全部封锁,不过,一日后,针对其他语言的维基百科封锁又被解除。威尔斯在互联网大会上表示,维基百科一直都由网民编写,并非谣言及八卦场所,强调维基百科具有公信力。而目前大陆类似维基百科的网站如百度百科丶互动百科等,被不少人批评受到当局严格审查,失去中立性。而威尔斯在大会上表示,维基并未将百度百科或互动百科视为对手,因为维基百科是一个公益机构,而非商业机构。他又指,任何政府想要控制讯息流通的想法都将会过时,而且绝不可能做到。Source:RFAPhoto:Reuters

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人