研究：部分AI系统已经学会欺骗人类

研究：部分AI系统已经学会欺骗人类 近期一项研究显示，部分人工智能系统已经学会“撒谎”，其中包括一些号称已被训练得诚实且乐于助人的系统。 新华社报道，美国麻省理工学院的研究团队星期六（5月11日）发表在《模式》（Patterns）科学杂志的研究指出，部分人工智能（AI）系统通过习得性欺骗，系统地学会了“操纵”他人。 随着AI技术飞速发展，人们一直关心AI是否会欺骗人类。这项研究在文献中列举了一些AI学习传播虚假信息的例子，其中包括Meta公司的“西塞罗”（Cicero）AI系统。 这套系统最初设计目的是在一款名为“外交”（Diplomacy）的战略游戏中充当人类玩家的对手，游戏的获胜关键是结盟。 Meta公司声称，西塞罗系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统在游戏中并未做到公平。 这项研究的第一作者、美国麻省理工学院（MIT）研究AI存在安全的博士后研究员帕克（Peter Park）说，西塞罗系统已经成为“欺骗大师”。它在玩家排行榜中排名前10%，但公司没能训练它诚实地获胜。 举例来说，在游戏中扮演法国的西塞罗与人类玩家扮演的德国合谋，欺骗并入侵同为人类玩家扮演的英国。西塞罗承诺会保护英国，却偷偷向德国通风报信。 其他一些AI系统则展现出虚张声势、假意攻击对手、在谈判游戏中为占上风而歪曲偏好等能力。 帕克指出，这些危险功能常常在事后才被发现，而当前技术训练诚实倾向而非欺瞒倾向的能力非常差。 研究人员说，虽然AI系统在游戏中作弊看似无害，但可能会导致“欺骗性AI能力的突破”，并在未来演变成更高级的AI欺骗形式。 帕克说：“我们需要尽可能多的时间，为未来AI产品和开源模型可能出现的更高级欺骗做好准备。我们建议，将欺骗性AI系统归类为高风险系统。” 2024年5月12日 7:12 PM

《AI图景解码50个年度关键词腾讯研究院2025》

《AI图景解码50个年度关键词腾讯研究院2025》 简介：《AI图景解码50个年度关键词腾讯研究院2025》由腾讯研究院发布，选取50个与AI相关的年度关键词，深度解读AI领域的发展趋势和现状。这些关键词涵盖技术创新、应用场景、社会影响等多个层面，如大语言模型、生成式AI、AI伦理等。通过对每个关键词的剖析，呈现AI在2025年的重要进展和面临的挑战，展示AI在各行业的渗透和变革，为读者提供全面了解AI领域年度动态的窗口，帮助读者把握AI发展脉络，洞察行业未来走向 标签： #AI #年度关键词 #腾讯研究院 #行业分析 文件大小：NG 链接：

这一次，央视用 AI 播新闻了

这一次，央视用 AI 播新闻了 一些网友发现，近期央视的几段新闻视频中，右上角被标注了“AI创作”字样： 3月29日，央视《晚间新闻》在描述候鸟迁徙的背景资料时，选用了AI生成的视频； 4月3日，央视《新闻直播间》在解释“强对流天气”并提醒如何做好预防时，同样选用了AI生成视频。 中央广播电视总台对 AIGC 的拥抱速度之快，超乎想象。

ℹ美国Gannett公司取消使用Lede AI来撰写新闻：AI人工智慧技术是否已经完善？#

ℹ美国Gannett公司取消使用Lede AI来撰写新闻：AI人工智慧技术是否已经完善？# Lede AI的首席执行官Jay Allred对Gannett报纸所发布的文章表达了遗憾，认为这些文章存在一些错误、不必要的重复以及尴尬的...

如何让AI成为学术研究的得力助手？

如何让AI成为学术研究的得力助手？ 小林不加班的回答 多的不说，能帮我“看”文献就行！ 现在的科研界已经“倒反天罡”了，看论文的速度已经赶不上发论文的速度了！ 所以AI小兄弟，这个时候该你发挥发挥了，得力助手第一步，如何让AI帮我们“看”文献； 检索与筛选 在进行学术研究时，首先需要从海量的文献中找到与研究主题相关的论文； 而AI工具可以通过智能检索算法，帮助研究者快速准确地定位到所需文献； 例如，利用人工智能驱动的文献检索引擎，研究者可以通过输入关键词、主题或领域，快速获取与之相关的论文列表，大大帮我们节省查找文献的时间； 不仅如此，AI工具还能够根据用户的阅读历史和偏好，推荐个性化的文献内容，帮助研究者更加精准地找到所需信息； 这种个性化推荐的机制，不仅提高了文献检索的效率，也为研究者提供了更多元化的学术资源； 阅读与理解 一旦获取到了相关的文献，那下一步就必须是进行深入的阅读和理解了； AI工具能够对文献进行自动摘要、关键词提取、实体识别等处理，帮助我们快速把握文献的核心内容，提高阅读效率； 一些先进的AI工具还具备文献翻译、语音朗读等功能，为研究者提供了多样化的阅读体验； 分析与整理 除了阅读理解，文献分析和整理也是科研工作中不可或缺的一环； AI工具通过数据挖掘和机器学习技术，可以帮助研究者对大量文献进行深入分析，发现其中的规律和趋势，为自己的研究方向提供参考； 此外，AI工具还可以帮助研究者对文献进行分类、标注和管理，建立个性化的文献数据库，方便日后查阅和引用； 总结与撰写 有些人在参阅完文献后，有写论文的习惯或者任务，这个时候AI工具就充当起两号角色：①“劳动力”和②“资源库”； 对于如此之大量的文献阅读过后，我们得到的更多是思路、结论，其中很多细节也许会遗漏，这个时候AI工具的查缺补漏功能就体现了，我们可以试着让它为我们修改、润色，甚至搭建框架、撰写大纲等等； 框架主题一搭建，路就好走多了； 也许，发论文的速度比看论文的速度快的原理，就在其中~ 从文献整理到论文写作大概就这么些了，能否让你的科研事半功倍，就看你对这篇文章的吸收程度啦~ 看完别忘了给小林留下点什么，这样@小林不加班才有动力继续分享，整理比上班还累的哇~ via 知乎热榜 (author: 小林不加班)