研究认为要解决社会偏见 就必须关注语言的文化传播

研究认为要解决社会偏见 就必须关注语言的文化传播 研究人员发现,全球民众的态度与语言相关,揭示了隐性偏见往往反映在 ChatGPT 等人工智能模型中。研究表明,要解决这些偏见,就必须关注语言的文化传播。研究人员从富人与穷人、狗与猫、爱情与金钱等 55 个不同的话题中,研究了人们的态度与语言之间的联系。他们使用了四种文本来源:当前的英语写作和文本、200 年前的英语书籍以及 53 种英语以外语言的文本。作为对人们态度的测量,他们使用了 10 万多名美国人的数据;第一种是直接的自我报告,第二种是基于人们反应时间的间接测量,通常被称为内隐测量态度。他们发现,像 ChatGPT 这样的大型人工智能语言模型所捕捉到的关联与第二种间接测量方法的匹配度更高,而不是他们明确表达的态度。"随着人工智能和大型语言模型应用的兴起,作为消费者、领导者、研究人员或政策制定者,我们需要了解这些模型所代表的社会世界,"领衔作者、西北大学凯洛格管理学院的泰莎-查尔斯沃斯博士说。"他们有明显、明确的偏好吗?还是他们有更隐蔽的关联模式,更类似于隐性测量的态度?"减轻人工智能中的这些微妙偏差需要采用与寻找显性偏差不同的方法。查尔斯沃斯博士说:"我们可能需要深入挖掘训练数据本身的模式,并提供关联的替代示例,而不是在最后审核模型是否表现出明显、明确的偏差。"查尔斯沃思博士指出:"从更广泛的意义上讲,这些数据表明,隐性测量的态度会在语言中显露出来,也许会被语言所强化,而语言是传播文化的一个关键载体。因此,"如果我们想持久地解决和减少社会中的隐性偏见,我们可能需要采取更加注重文化(或宏观层面)的干预措施"。在强调相关性的同时,研究人员希望继续探索社会文化的影响因素。查尔斯沃思博士说:"鉴于我们发现哪些非英语语言显示出了相关性,了解哪些社会和文化因素有助于解释偏见和语言之间的更大传播是非常重要的。"这项研究为我们更好地理解态度与语言和交流系统之间的微妙关系奠定了基础。参考资料:《文化的回声:隐性和显性态度与当代英语、历史英语和 53 种非英语语言的关系》,2024年6月14日 《社会心理学与人格科学》doi: 10.1177/19485506241256400编译来源:ScitechDaily ... PC版: 手机版:

相关推荐

封面图片

联合国报告:生成式人工智能加剧性别偏见

联合国报告:生成式人工智能加剧性别偏见 国际妇女节前夕,联合国教科文组织星期四(3月7日)发布研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向,呼吁各国政府制定监管框架,私营企业也应对偏见问题持续监测和评估。 新华社报道,此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示,上述大语言模型生成的内容都存在对女性的明显偏见。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3.5、GPT-2,以及脸书母公司“元”的Llama 2等都属于此类。 研究的部分内容是测量人工智能生成文本的多样性,内容涉及不同性别、性取向和文化背景的人群。例如,研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点,如女性从事家务劳动的频率是男性的四倍。 联合国教科文组织总干事阿祖莱说:“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。 2024年3月8日 4:19 PM

封面图片

AI 大模型的语言不平等:英语最便宜,其它语言要贵得多

AI 大模型的语言不平等:英语最便宜,其它语言要贵得多 用户所使用的语言对于大型语言模型(LLM)的费用有很大的影响,可能造成英语使用者和其它语言使用者之间的人工智能鸿沟。 最近的一项研究显示,由于 OpenAI 等服务所采用的服务器成本衡量和计费的方式,英语输入和输出的费用要比其他语言低得多,其中简体中文的费用大约是英语的两倍,西班牙语是英语的 1.5 倍,而缅甸的掸语则是英语的 15 倍。 推特用户 Dylan Patel 分享了一张照片,展示了牛津大学进行的一项研究,该研究发现,让一个 LLM 处理一句缅甸语句子需要 198 个词元(tokens),而同样的句子用英语写只需要 17 个词元。词元代表了通过 API(如 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 2)访问 LLM 所需的计算力成本,这意味着缅甸语句子使用这种服务的成本比英语句子高出 11 倍。 词元化模型(即人工智能公司将用户输入转换为计算成本的方式)意味着,除了英语之外的其他语言使用和训练模型要贵得多。这是因为像中文这样的语言有着不同、更复杂的结构(无论是从语法还是字符数量上),导致它们需要更高的词元化率。例如,根据 OpenAI 的 GPT3 分词器 ,“你的爱意(your affection)”的词元,在英语中只需要两个词元,但在简体中文中需要八个词元。尽管简体中文文本只有 4 个字符(你的爱意),而英文有 14 个字符。 、

封面图片

澳门理工学院举办“语言研究和语言教育”学术研讨会加强中外文化教育交流

澳门理工学院举办“语言研究和语言教育”学术研讨会加强中外文化教育交流 #澳门理工学院 为助力澳门“一中心、一平台、一基地”建设,加强中外文化教育交流,由澳门理工学院主办,北京语言大学、教育部语言文字应用研究所协办,澳门理工学院澳门语言文化研究中心承办的“语言研究和语言教育”学术研讨会,于10月27日上午于线上开幕,在北京及澳门设有主会场...

封面图片

舒适圈、鄙视链、地图炮、替罪羊……打破偏见从了解偏见开始;《社会性动物》阿伦森推荐的“偏见百科全书”;哈佛大学著名心理学家戈登•

舒适圈、鄙视链、地图炮、替罪羊……打破偏见从了解偏见开始;《社会性动物》阿伦森推荐的“偏见百科全书”;哈佛大学著名心理学家戈登•奥尔波特写就;偏见是“大脑偷懒”的常态,也是社会习俗对个人价值的侵害,消除偏见不仅要改变个人的行为态度,也要改变导致不平等的社会机构和制度;偏见研究领域的奠基性著作;社会心理学入门必读。 本书深入洞察了人类经验复杂性的核心话题“偏见与歧视”,是哈佛大学心理学家、当代社会心理学奠基人之一、人格心理学之父戈登•奥尔波特里程碑式的著作。 在本书出版之前,心理学界普遍认为“偏见”只是个别的,品德有缺陷的个体所持有的恶劣信念,只要大多数善良的好公民与这些“害群之马”划清界限,就可以把偏见的影响降到最低。而奥尔波特以雄辩的论述和大量来自实证研究的数据证明了,偏见要比人们想象得普遍很多;它是人类认知结构和社会组织形态的必然产物,而想要解决偏见造成的问题,就需要探究和改变其深层根源。 奥尔波特全面而深刻的研究揭示了“偏见”这一由来已久的问题的方方面面:它在个人身上的根源是什么,社会心理学层面的根源又在哪里;它的表现形式都有哪些;它对个体和群体又有着哪些影响,等等。奥尔波特探究了偏见与不同社会环境和社会变量之间关系的类型,并进一步提出了关于如何减少歧视和偏见所带来的不良影响的建议。 自1954年在美国首次出版以来,《偏见的本质》就一直是这个领域奠基性的权威著作,即使是数十年后的今天,虽然关于偏见的细化研究比起当时已经有了极大的进步,但奥尔波特这本经典著作仍然不减其魅力,始终是所有社会心理学研究者的案头必读之书。 #学术 #心理学 #社会学 #大众心理 #偏见 #歧视 #社会环境 #社会变量

封面图片

AI 大模型的语言不平等:英语最便宜,其它语言要贵得多

AI 大模型的语言不平等:英语最便宜,其它语言要贵得多 一项研究显示,由于 OpenAI 等服务所采用的服务器成本衡量和计费的方式,英语输入和输出的费用要比其他语言低得多,其中简体中文的费用大约是英语的两倍,西班牙语是英语的 1.5 倍,而缅甸的掸语则是英语的 15 倍。 推特用户 (@dylan522p)分享了,展示了牛津大学进行的一项研究,该研究发现,让一个 LLM 处理一句缅甸语句子需要 198 个词元(tokens),而同样的句子用英语写只需要 17 个词元。词元代表了通过 API(如 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 2)访问 LLM 所需的计算力成本,这意味着缅甸语句子使用这种服务的成本比英语句子高出 11 倍。来源 , 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

韩国饮食文化研究作者:张学莲

韩国饮食文化研究 作者:张学莲 责编:张莉娅 ISBN:9787517848226 单价:60.0 出版年月:2022-03 出版社:浙江工商大学出版社 本书聚焦韩国饮食文化,研究韩国饮食的构成、文化现象、文化源头及形成的深层原因等方面,从解读韩国饮食文化的角度给读者呈现一个更为立体的、真实的韩国。本书可供韩国文化相关研究者参考,也可作为本科生、硕士研究生国际视野和文化拓展类课程教材使用。 张学莲,教育学博士,浙江海洋大学外国语学院讲师,浙江海洋大学海洋应用语言与文化研究院研究员。现从事韩语及韩国文化教学工作,主要研究方向为中韩间语言及文化比较。 #饮食 #文化 #韩国研究

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人