美英等国发布人工智能系统开发联合指南，要求使AI“通过设计变得安全”

美英等国发布人工智能系统开发联合指南，要求使AI“通过设计变得安全”路透华盛顿11月27日-美国、英国和其他十几个国家周日公布了美国高级官员所说的第一份关于如何保护人工智能免受流氓行为者侵害的详细国际协议，敦促企业创建“设计安全”的人工智能系统。在周日公布的一份长达20页的文件中，18个国家一致认为，设计和使用人工智能的公司需要以确保客户和广大公众免受滥用的方式开发和部署人工智能。该协议不具有约束力，主要包含一般性建议，例如监控人工智能系统是否被滥用、保护数据免遭篡改以及审查软件供应商。除美国和英国外，签署新指南的18个国家还包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡。——

Google让会记笔记的NotebookLM人工智能变得更好用

Google让会记笔记的NotebookLM人工智能变得更好用新的"笔记本指南"还可以读取NotebookLM中的资料来源，并创建学习指南、常见问题或简报文件，而且内嵌引文可以指向自己的资料来源，以便对人工智能的回答进行事实核查--每个"笔记本"或项目最多可有50个资料来源，每个资料来源的长度可达50万字。以前，人们只能上传五个资料来源。用户现在还可以就他们上传到平台上的图表、图片和图解提问，因为NotebookLM是在GoogleGemini1.5Pro上运行的，这是最新的大型语言模型，目前为付费版的双子座聊天机器人提供支持。现在，NotebookLM支持的国家包括澳大利亚、巴西、加拿大、印度和英国，以及其他208个国家和地区。Google还将这款人工智能辅助应用的界面语言支持扩展到108种语言，包括阿拉伯语、阿萨姆语、孟加拉语、粤语、中文、荷兰语、法语、德语、印地语和兴英语。它还支持38种语言的消息来源和聊天，如阿拉伯语、孟加拉语、中文（简体和繁体）、荷兰语、法语、德语、印地语、日语和西班牙语。NotebookLM最初在2023年的GoogleI/O大会上以ProjectTailwind的名义进行了演示，去年6月开始向少数用户开放。它利用人工智能帮助生成摘要，并回答用户可以上传的文档、记录、笔记和其他来源的问题。这与传统的人工智能聊天机器人（如ChatGPT）不同，后者往往不遵守用户提供的来源，而是根据用于训练的数据生成信息，而这些数据有时可能是不相关或错误的。在一次简报会上，Google实验室高级产品经理雷扎-马丁（RaizaMartin）告诉记者，NotebookLM"是一个封闭的系统"。除了阅读用户添加的网站内容外，它不会进行任何网络搜索。马丁说，NotebookLM对数据或图片查询的回答将只来自用户的"语料库"或他们添加到平台上的信息体。与Perplexity的Pages不同，NotebookLM并不是一款能够撰写研究论文的工具，后者据说能帮助研究人员查找数据，让信息共享变得更容易（虽然不一定让人满意）。Google举例说明了人们如何使用NotebookLM，其中包括作家沃尔特-艾萨克森（WalterIsaacson），该公司称他使用该平台分析玛丽-居里的日记，以便撰写下一本书。Google还表示，非营利组织使用NotebookLM"来确定服务不足社区的需求，并为拨款提案整理信息"。马丁说，虽然NotebookLM的目标受众仍然是研究人员、学生，通常也包括作家，但公司也发现了一些其他用例，比如游戏龙与地下城的地下城主可以使用NotebookLM准备一场战役。NotebookLM目前在200多个国家和地区提供，支持100多种语言。...PC版：https://www.cnbeta.com.tw/articles/soft/1433863.htm手机版：https://m.cnbeta.com.tw/view/1433863.htm

微软将把必应聊天限制在每轮5回合对话 以阻止人工智能变得怪异

微软将把必应聊天限制在每轮5回合对话以阻止人工智能变得怪异"我们的数据显示，绝大多数人在5个回合内找到了他们要找的答案，只有大约1%的聊天对话有50条以上的信息，"Bing团队在一篇博文中说。如果用户达到每次5次的限制，必应会提示他们开始一个新的话题，以避免长时间的来回聊天。微软本周早些时候警告说，这些有15个或更多问题的较长的聊天会话，可能会使必应"变得重复，或被提示/挑动而作出不一定有帮助或符合我们设计的语气的回应"。微软说，在仅仅五个问题之后擦除对话意味着"模型不会被混淆"。本周早些时候出现了关于Bing"不正常"对话的报道，随后《纽约时报》发表了一整段与Bing的两个多小时的来回对话，其中聊天机器人说它爱作者，不知为何他们当晚无法入睡。不过，本周很多聪明人都没有通过人工智能的镜像测试。微软仍在努力改善必应的语气，但现在还不清楚这些限制会持续多久。"随着我们继续得到反馈，我们将探索扩大聊天会话的上限，"微软说，所以这似乎是一个有限的上限，至少在目前。必应的AI聊天功能每天都在不断改进，技术问题得到解决，每周都会有更大的修复量，以改善搜索和回答。微软本周早些时候说，它没有"完全设想"人们将其聊天界面用于"社交娱乐"或作为更多"发现世界的一般工具"。...PC版：https://www.cnbeta.com.tw/articles/soft/1345029.htm手机版：https://m.cnbeta.com.tw/view/1345029.htm

欧盟就《人工智能法案》达成协议

欧盟就《人工智能法案》达成协议欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。该草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。...PC版：https://www.cnbeta.com.tw/articles/soft/1403101.htm手机版：https://m.cnbeta.com.tw/view/1403101.htm

欧盟就《人工智能法案》达成临时协议

欧盟就《人工智能法案》达成临时协议该协议要求人工智能基础模型在投放市场前遵守透明度义务，包括起草技术文件、遵守欧盟版权法以及公开用于模型训练的内容摘要。具有系统性风险的高影响基础模型必须进行评估，减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件。协议还对政府行为予以约束，政府只能在面临恐怖袭击等真正、当前或可预见威胁时，才可使用实时生物识别监视。协议禁止认知行为操纵、禁止从互联网或监控视频中抓取面部图像、进行社会评分、或者对种族、宗教信仰、性取向等进行识别分类。欧盟成员国和欧洲议会成员将在未来几天讨论细节，一旦双方正式批准，法案预计将在明年初生效，并在两年后实施。虽然欧盟委员会委员称赞欧盟起到了全球标准制定者的角色。但“数字化欧洲组织”批评此举给公司增加负担，“欧洲数字权利中心”也批评法案将使得欧盟范围内的实时公开面部识别合法化。——，