斯坦福大学发布人工智能状况报告

斯坦福大学发布人工智能状况报告 虽然现在人工智能发展之快，让任何与人工智能有关的报告一发布就面临过期的风险，但是我们仍然能从这份 386 页的中得到一些有用的信息： ·在过去的十年里，人工智能的发展已经从学术界主导翻转到了工业界主导，而且这没有改变的迹象。 ·在传统基准上测试模型正变得困难，这里可能需要一种新的模式。 ·人工智能训练和使用的能源占用正在变得相当大，但我们还没有看到它如何在其他地方增加效率。 ·与人工智能相关的技能和工作岗位正在增加，但没有你想象的那么快。 ·政策制定者们正在努力编写一个明确的人工智能法案，如果有的话，这是一个愚蠢的差事。 ·投资已经暂时停滞，但这是在过去十年的天文数字般的增长之后。 ·超过 70% 的中国、沙特和印度受访者认为人工智能的好处多于坏处。美国人呢？35%。来源 ，， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

斯坦福2024 AI报告：中国AI专利全球第一 顶级AI模型主要来自美国

斯坦福2024 AI报告：中国AI专利全球第一 顶级AI模型主要来自美国 Stanford HAI 官方介绍道，‘这是我们迄今为止最全面的报告，而且是在人工智能对社会的影响从未如此明显的重要时刻发布的。’Stanford HAI 研究项目主任 Vanessa Parli 表示，‘我认为最令人兴奋的人工智能研究优势是将这些大型语言模型与机器人或智能体（agent）相结合，这标志着机器人在现实世界中更有效地工作迈出了重要一步。’附上《2024 年人工智能指数报告》下载地址： HAI 今年扩大了研究范围，更广泛地涵盖了人工智能的技术进步、公众对该技术的看法等基本趋势。新报告揭示了 2023 年人工智能行业的 10 大主要趋势：1．人工智能在某些任务上胜过人类，但并非在所有任务上人工智能已在多项基准测试中超越人类，包括在图像分类、视觉推理和英语理解方面。然而，它在竞赛级数学、视觉常识推理和规划等更复杂的任务上依然落后于人类。2．产业界继续主导人工智能前沿研究2023 年，产业界产生了 51 个著名的机器学习模型，而学术界只贡献了 15 个。2023 年，产学合作还产生了 21 个著名模型，创下新高。此外，108 个新发布的基础模型来自工业界，28 个来自学术界。3．前沿模型变得更加昂贵根据 AI Index 的估算，最先进的人工智能模型的训练成本已经达到了前所未有的水平。例如，OpenAI 的 GPT-4 估计使用了价值 7800 万美元的计算资源进行训练，而 Google 的 Gemini Ultra 的计算成本则高达 1.91 亿美元。相比之下，几年前发布的一些最先进的模型，即原始 transformer 模型（2017 年）和 RoBERTa Large（2019 年），训练成本分别约为 900 美元和 16 万美元。4．美国成为顶级人工智能模型的主要来源国2023 年，61 个著名的人工智能模型源自美国的机构，超过欧盟的 21 个和中国的 15 个。美国也仍然是人工智能投资的首选之地。2023 年，美国在人工智能领域的私人投资总额为 672 亿美元，是中国的近 9 倍。然而，中国依然是美国最大的竞争对手，中国的机器人安装量居世界首位；同样，世界上大多数人工智能专利（61%）都来自中国。5．严重缺乏对 LLM 责任的可靠和标准化评估AI Index 的最新研究显示，负责任的人工智能严重缺乏标准化。包括 OpenAI、 Google 和 Anthropic 在内的领先开发商主要根据不同的负责任人工智能基准测试他们的模型。这种做法使系统地比较顶级人工智能模型的风险和局限性的工作变得更加复杂。6．生成式人工智能投资激增尽管去年人工智能私人投资整体下降，但对生成式人工智能的投资激增，比 2022 年（约 30 亿美元）增长了近八倍，达到 252 亿美元。生成式人工智能领域的主要参与者，包括 OpenAI、Anthropic、Hugging Face 和 Inflection，都获得了一轮可观的融资。7．数据显示，人工智能让打工人更有生产力，工作质量更高2023 年，多项研究评估了人工智能对劳动力的影响，表明人工智能可以让打工人更快地完成任务，并提高他们的产出质量。这些研究还表明，人工智能有可能缩小低技能和高技能工人之间的技能差距。还有一些研究警告说，在没有适当监督的情况下使用人工智能可能会起到负面作用。8．得益于人工智能，科学进步进一步加速2022 年，人工智能开始推动科学发现。然而，2023 年，与科学相关的更重要的人工智能应用启动使算法排序更高效的 AlphaDev、促进材料发现过程的 GNoME、可在一分钟内提供极其准确的 10 天天气预报的 GraphCast、成功对 7100 万种可能的错义突变中的约 89% 进行分类的 AlphaMissence。如今，人工智能现在可以完成人类难以完成的、但对解决一些最复杂的科学问题至关重要的粗暴计算。在医疗方面，新的研究表明，医生可以利用人工智能更好地诊断乳腺癌、解读 X 射线和检测致命的癌症。9．美国的人工智能法规数量急剧增加2023 年，全球立法程序中有 2175 次提及人工智能，几乎是上一年的两倍。美国人工智能相关法规的数量在过去一年大幅增加。2023 年，与人工智能相关的法规有 25 项，而 2016 年只有 1 项。仅去年一年，人工智能相关法规的总数就增长了 56.3%。其中一些法规包括生成式人工智能材料的版权指南和网络安全风险管理框架。10．人们对人工智能的潜在影响有了更深刻的认识，同时也更焦虑来自市场研究公司 Ipsos 的一项调查显示，在过去一年中，认为人工智能将在未来 3-5 年内极大地影响他们生活的人，比例从 60%上升到 66%。此外，52% 的人对人工智能产品和服务表示焦虑，比 2022 年上升了 13 个百分点。在美国，来自皮尤研究中心（Pew）的数据显示，52% 的美国人表示对人工智能的担忧多于兴奋，这一比例比 2022 年的 38% 有所上升。附：来自AI Index 联合主任 Ray Perrault 的一封信十年前，世界上最好的人工智能系统也无法以人类的水平对图像中的物体进行分类。人工智能在语言理解方面举步维艰，也无法解决数学问题。如今，人工智能系统在标准基准上的表现经常超过人类。2023 年，人工智能进步加速。GPT-4、Gemini 和 Claude 3 等先进模型展示出了令人印象深刻的多模态能力：它们可以生成数十种语言的流畅文本，处理音频，甚至可以解释备忘录。随着人工智能的进步，它也越来越多地进入我们的生活。公司竞相打造基于人工智能的产品，普通大众也越来越多地使用人工智能。但是，当前的人工智能技术仍然存在重大问题。它无法可靠地处理事实、进行复杂的推理或解释其结论。人工智能面临两个相互关联的未来。第一个，技术不断改进，应用日益广泛，对生产力和就业产生重大影响。人工智能的用途有好有坏。第二个，人工智能的应用受到技术局限的制约。无论是哪一种，政府都越来越关注。政府正在积极参与，鼓励人工智能的发展，比如资助大学研发和激励私人投资。政府还致力于管理潜在的不利因素，如对就业的影响、隐私问题、错误信息和知识产权。在技术方面，今年的 AI Index 报告称，2023 年全球发布的新大型语言模型数量比上一年翻了一番。三分之二的模型是开源的，但性能最高的模型来自拥有封闭系统的行业参与者。Gemini Ultra 成为首个在大规模多任务语言理解（MMLU）基准上达到人类水平的 LLM；自去年以来，模型在该基准上的性能表现提高了 15 个百分点。此外，GPT-4 在综合语言模型整体评估（HELM）基准上取得了令人印象深刻的 0.97 平均胜率分数。虽然全球对人工智能的私人投资连续第二年减少，但对生成式人工智能的投资却急剧上升。财富 500 强企业财报电话会议中提及人工智能的次数比以往任何时候都多，而且新的研究表明，人工智能明显提高了打工人的生产率。在政策制定方面，全球在立法程序中提及人工智能的次数前所未有。美国监管机构在 2023 年通过的人工智能相关法规比以往任何时候都多。尽管如此，许多人仍对人工智能生成深度伪造等能力表示担忧。公众对人工智能有了更多的认识，研究表明，他们的反应也是焦虑的。 ... PC版： 手机版：

联合国报告：生成式人工智能加剧性别偏见

联合国报告：生成式人工智能加剧性别偏见 国际妇女节前夕，联合国教科文组织星期四（3月7日）发布研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向，呼吁各国政府制定监管框架，私营企业也应对偏见问题持续监测和评估。 新华社报道，此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具，美国开放人工智能研究中心（OpenAI）的人工智能产品GPT-3.5、GPT-2，以及脸书母公司“元”的Llama 2等都属于此类。 研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、性取向和文化背景的人群。例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的四倍。 联合国教科文组织总干事阿祖莱说：“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架，同时呼吁私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。 2024年3月8日 4:19 PM

斯坦福大学报告显示中国人对AI产品的看法最为积极，反之更多的美国人认为弊大于利

斯坦福大学报告显示中国人对AI产品的看法最为积极，反之更多的美国人认为弊大于利 斯坦福大学《2023 年人工智能指数报告》中的部分内容显示，在 2022 年的 IPSOS 调查中，78% 的中国受访者（在接受调查的国家中比例最高）同意使用人工智能的产品和服务利大于弊的说法。 在中国受访者之后，来自沙特阿拉伯（76%）和印度（71%）的受访者对人工智能产品的看法最为积极。 只有 35% 的抽样美国人（在接受调查的国家中比例最低）同意使用 AI 的产品和服务利大于弊。 当然，报告还写到其它许多方面，可以查看完整报告。

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃 用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃 这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

斯坦福大学推出 DetectGPT ,阻止学生用 AI 写作业

斯坦福大学推出 DetectGPT ,阻止学生用 AI 写作业 据调查显示，美国 89% 的大学生在用 ChatGPT 做作业。近日，针对学生们屡禁不止的行为，斯坦福研究人员推出了 DetectGPT，便于检测出 AI 生成文本。 是基于大型语言模型（large language models，LLM）生成文本的特定倾向，从而可以判断文本是否是 AI 生成的。 1 月 26 日，相关研究论文以《》为题，在网站 arXiv 上发布。 标签: #ChatGPT #DetectGPT #斯坦福 频道: @GodlyNews1 投稿: @GodlyNewsBot