联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见 国际妇女节前夕，联合国教科文组织星期四（3月7日）发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向，呼吁各国政府制定监管框架，私营企业也应对偏见问题持续监测和评估。 新华社报道，此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama 2等都属于此类。 研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、性取向和文化背景的人群。例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的四倍。 联合国教科文组织总干事阿祖莱说：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。 2024年3月8日 4:19 PM

联合国成立咨询机构解决人工智能治理问题

联合国成立咨询机构解决人工智能治理问题 路透斯德哥尔摩10月26日 - 联合国秘书长安东尼奥·古特雷斯周四宣布成立一个由39名成员组成的咨询机构，以解决人工智能国际治理中的问题。 成员包括科技公司高管、西班牙、沙特阿拉伯的政府官员以及来自美国、俄罗斯和日本等国的学者。代表科技公司的高管包括索尼首席技术官 Hiroaki Kitano、OpenAI 首席技术官 Mira Murati 和微软首席人工智能官 Natasha Crampton。代表们还来自六大洲，背景各异，从美国人工智能专家维拉斯·达尔(Vilas Dhar)到中国的曾毅教授和埃及律师穆罕默德·法拉哈特(Mohamed Farahat)。 古特雷斯在一份声明中表示：“人工智能的变革潜力甚至难以把握。”他说：“如果不对人工智能进行大量的末日预测，恶意使用人工智能显然会破坏人们对机构的信任，削弱社会凝聚力，并威胁到民主本身。” 该联合国机构将于今年年底发布初步建议，并于 2024 年夏季发布最终建议。联合国表示，当前的任务包括就风险和挑战建立全球科学共识，加强人工智能治理国际合作。该机构的第一次会议将于 10 月 27 日举行。