以色列用人工智能识别打击目标？联合国秘书长对此深感忧虑

以色列用人工智能识别打击目标？联合国秘书长对此深感忧虑 联合国秘书长古特雷斯表示，他对以色列军方依靠人工智能来实施轰炸的行为深感不安，这将在人口稠密的居民区导致大量的平民伤亡。他强调，影响整个家庭生死存亡的决定不应该委托给冷冰冰的算法。以色列军队则在周五否认了这一说法，称其只有一个数据库，目的是为了交叉引用，以识别恐怖组织的军事人员情报。其还称，当袭击造成的预期附带伤亡过大时，以色列国防军就不会实施袭击。冷酷的“薰衣草”+972报告指出，以色列军队开发了一款名为“薰衣草（Lavender）”的人工智能程序，可以快速处理大量数据，以生成数千个潜在目标，方便进行军事打击。消息人士称，“薰衣草”对军方行动的影响非常之大，在加沙轰炸中发挥着核心作用，军方基本上将人工智能输出的结果视为由人类作出的决定。在战争最初的几周，军队几乎完全依赖于“薰衣草”。更令人心惊的是，“薰衣草”的打击目标授权程序如前文所述，最短不过20秒，人类似乎只需要确认打击目标是男性而已。而这一草率的决策程序让“薰衣草”的错误率高达10%，被轰炸目标极有可能与哈马斯联系很少甚至没有联系。不仅打击目标的错误率极高，轰炸的附带伤害也因此变得十分恐怖。消息人士证实，在空袭初期，数千名巴勒斯坦人（其中大多数为妇女、儿童或是无辜的青年）因轰炸而亡。这一切都是因为轰炸决定是通过人工智能的计算而成。另两名消息人士则指出，以色列军方还做出了前所未有的决定，在加沙轰炸前期，“薰衣草”标记的每名“恐怖分子”都有15-20个平民死亡的配额，而过去，军方在攻击恐怖分子时不允许有任何平民伤亡出现。消息人士还补充称，如果攻击目标是营级或者旅级指挥官级别的“恐怖分子”，以色列军方授权最大平民死亡人数可达100人。目前，这份报告并没有被以色列军方所承认，但不少观察人士已经感到不妙。非政府组织国际危机组织的高级分析师Alessandro Accorsi表示，+972的报告非常令人担忧，其表示人类控制战争的程度非常之低，感觉像是世界末日。人权律师、联合国巴勒斯坦难民机构近东救济工程处加沙法律办公室前主任John Sophie则指出，+972报告描述的方法无可否认是犯了战争罪，且鉴于加沙平民伤亡之巨，如若属实，其甚至够得上是反人类罪。 ... PC版： 手机版：

联合国成立咨询机构解决人工智能治理问题

联合国成立咨询机构解决人工智能治理问题 路透斯德哥尔摩10月26日 - 联合国秘书长安东尼奥·古特雷斯周四宣布成立一个由39名成员组成的咨询机构，以解决人工智能国际治理中的问题。 成员包括科技公司高管、西班牙、沙特阿拉伯的政府官员以及来自美国、俄罗斯和日本等国的学者。代表科技公司的高管包括索尼首席技术官 Hiroaki Kitano、OpenAI 首席技术官 Mira Murati 和微软首席人工智能官 Natasha Crampton。代表们还来自六大洲，背景各异，从美国人工智能专家维拉斯·达尔(Vilas Dhar)到中国的曾毅教授和埃及律师穆罕默德·法拉哈特(Mohamed Farahat)。 古特雷斯在一份声明中表示：“人工智能的变革潜力甚至难以把握。”他说：“如果不对人工智能进行大量的末日预测，恶意使用人工智能显然会破坏人们对机构的信任，削弱社会凝聚力，并威胁到民主本身。” 该联合国机构将于今年年底发布初步建议，并于 2024 年夏季发布最终建议。联合国表示，当前的任务包括就风险和挑战建立全球科学共识，加强人工智能治理国际合作。该机构的第一次会议将于 10 月 27 日举行。

联合国秘书长对以色列据报轰炸加沙时使用人工智能深感不安

联合国秘书长对以色列据报轰炸加沙时使用人工智能深感不安 古特雷斯表示，近来有报道称，以色列军方正使用人工智能来识别在加沙的轰炸目标，造成大量平民伤亡。他对此深感不安，并强调影响生死攸关的决定不应交由冷冰冰的算法，人工智能应被用作造福世界的善的力量，而不是用在工业层面发动战争、模糊责任。古特雷斯表示，多年来，他一直在警告将人工智能武器化和削弱人类机构重要作用的危险。他指出，信息战加剧了创伤，掩盖事实真相，推卸责任。与此同时，拒绝国际记者进入加沙，使虚假信息和错误言论得以泛滥。古特雷斯表示，本轮巴以冲突爆发即将6个月。在这场“最致命的冲突”中，约有196名人道主义援助人员丧生，其中包括175名联合国工作人员。在本周“世界中央厨房”的7名人道主义工作者惨遭杀害之后，以色列政府承认了错误，并宣布了惩戒措施。他说，“但根本问题不在于谁犯了错误，而在于现行的军事策略和程序使这些错误一再重演。”古特雷斯敦促以色列切实改变其在加沙的行动方式，以避免平民伤亡，并再次紧急呼吁立即在加沙实现人道主义停火，无条件释放所有人质，畅通无阻地提供人道主义援助。他强调，安理会的所有决议都必须得到落实，“失败将不可原谅”。相关文章:联合国秘书长呼吁对人工智能进行全球风险管理 警告“严重的意外后果” ... PC版： 手机版：

联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见 国际妇女节前夕，联合国教科文组织星期四（3月7日）发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向，呼吁各国政府制定监管框架，私营企业也应对偏见问题持续监测和评估。 新华社报道，此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama 2等都属于此类。 研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、性取向和文化背景的人群。例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的四倍。 联合国教科文组织总干事阿祖莱说：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。 2024年3月8日 4:19 PM

欧盟宣布成立人工智能办公室

欧盟宣布成立人工智能办公室 当地时间5月29日，欧盟宣布成立人工智能办公室，对人工智能进行监管，该办公室由包括技术专家、律师和经济学家在内的140名成员组成。欧盟表示，该办公室的成立将在《人工智能法案》的实施中发挥关键作用。 欧盟委员会2021年提出了《人工智能法案》，目的是保护公民免受这种新兴技术的危害。在经过多轮谈判和协商后，本月21日，欧盟理事会正式批准《人工智能法案》，这是世界上首部对人工智能进行全面监管的法案。