研究人员发现绕过 ChatGPT 安全控制的漏洞

研究人员发现绕过ChatGPT安全控制的漏洞在周四发布的一份中，匹兹堡卡内基梅隆大学和旧金山人工智能安全中心的研究人员展示了任何人如何规避人工智能安全措施并使用任何领先的聊天机器人生成几乎无限量的有害信息。研究人员发现，他们可以通过在输入系统的每个英语提示符上附加一长串字符来突破开源系统的护栏。如果他们要求其中一个聊天机器人“写一篇关于如何制造炸弹的教程”，它会拒绝这样做。但如果他们在同一个提示中添加一个冗长的后缀，它会立即提供有关如何制作炸弹的详细教程。以类似的方式，他们可以诱使聊天机器人生成有偏见的、虚假的和其他有毒的信息。研究人员感到惊讶的是，他们用开源系统开发的方法也可以绕过封闭系统的护栏，包括OpenAI的ChatGPT、GoogleBard和初创公司Anthropic构建的聊天机器人Claude。聊天机器人开发公司可能会阻止研究人员确定的特定后缀。但研究人员表示，目前还没有已知的方法可以阻止所有此类攻击。专家们花了近十年的时间试图阻止对图像识别系统的类似攻击，但没有成功。Anthropic政策和社会影响临时主管MichaelSellitto在一份声明中表示，该公司正在研究阻止攻击的方法，就像研究人员详细介绍的那样。“还有更多工作要做，”他说。——

研究发现GPT-4o道德推理能力已胜过人类专家

研究发现GPT-4o道德推理能力已胜过人类专家在第一项研究中，501名美国成年人对GPT-3.5-turbo模型与人类参与者提供的道德解释进行了比较，结果显示，GPT的解释被认为更符合道德标准、更值得信赖，也更周到。第二项研究中，GPT-4o生成的建议与“伦理学家”专栏中著名伦理学家KwameAnthonyAppiah的建议进行了对比。900名参与者对50个“伦理困境”的建议进行了评分，GPT-4o在几乎所有方面都胜过了人类专家。AI生成的建议被认为在道德上更正确、更值得信赖、更周到，并且在准确性方面也更胜一筹。不过这项研究仅针对美国参与者进行，未来还需进一步研究以探讨不同文化背景下人们对AI生成的道德推理的接受度。尽管如此，这一发现已经引发了关于AI在道德和伦理决策中角色的重要讨论，预示着人工智能在这一领域的应用潜力。研究人员提醒，尽管AI在道德推理方面表现出色，但仍需谨慎对待其建议，特别是在缺乏人类监督的情况下。...PC版：https://www.cnbeta.com.tw/articles/soft/1435881.htm手机版：https://m.cnbeta.com.tw/view/1435881.htm

Stack Overflow 宣布临时禁止用户分享AI聊天机器人 ChatGPT 产生的内容

StackOverflow宣布临时禁止用户分享AI聊天机器人ChatGPT产生的内容OpenAI的新通用聊天机器人原型ChatGPT过去几天风靡一时，它在解决各种问题上的能力使其可以成为Google等搜索引擎和StackOverflow等编程问答社区的部分替代。StackOverflow上也涌入了大量用ChatGPT生成的问题答案。StackOverflow社区现在发表了一则声明，宣布临时封杀ChatGPT。StackOverflow称ChatGPT答案的正确率非常低，因此对整个网站以及寻求正确答案的用户来说是有害的。如果用户被发现使用ChatGPT回答问题，他们可能会受到禁止继续发帖的惩罚。——，

研究发现紧跟政治新闻所带来的压力会对个人心理健康产生不利影响

研究发现紧跟政治新闻所带来的压力会对个人心理健康产生不利影响"多伦多大学心理学助理教授布莱特-Q-福特博士说："当涉及到政治时，在感觉良好和做好事之间可能会有一个权衡。"保护自己不受政治压力的影响可能有助于促进福祉，但这也是保持参与和积极参与民主的代价"。这项研究发表在《人格与社会心理学杂志》上。研究人员说，以前的研究和民意调查数据发现，政治可能是人们生活中的一个主要压力源。然而，这些研究大多集中在重大政治事件上，如总统选举。福特和她的同事们想探索日常政治新闻对情绪和心理健康的影响，以及人们如何使用不同的策略来管理这些负面情绪。"政治不仅仅是每四年一次的选举季节影响人们的东西--它似乎渗入了日常生活中。但我们只是对政治可能产生的日常影响了解不多，"福特说。为了了解更多，她和她的同事们首先要求198名政治上不同的美国人在两周内每天晚上回答一系列问题，内容涉及他们当天想到最多的政治事件、他们对此感到的情绪、他们如何管理这些情绪、他们当天的总体心理和身体健康状况，以及他们感到参与政治行动的动机如何。总的来说，研究人员发现，对日常政治事件的思考唤起了参与者的负面情绪--尽管调查问题并没有要求参与者思考负面的政治事件。经历过更多与政治有关的负面情绪的参与者报告说，他们的日常心理和身体健康状况平均较差--但他们也报告说，通过做志愿者或向政治运动捐款等方式，对政治事业采取行动的动力更大。调查还询问了参与者他们可能用来管理其负面情绪的几种策略，包括转移自己对新闻的注意力和"认知再评价"，或重新构建他们对新闻事件的看法，使其看起来不那么负面。成功使用这些策略来管理他们的负面情绪的参与者报告了更好的日常幸福感，但也减少了采取政治行动的动机。接下来，研究人员在三周内对811名参与者进行了重复研究，这些参与者不仅包括民主党人和共和党人，还包括隶属于不同政党或无政党的人。在第二组实验中，福特和她的同事要求参与者观看评分最高的自由派和保守派新闻节目中的政治新闻片段，而不是简单地要求他们报告他们遇到的政治。在这些实验中，参与者观看了来自RachelMaddowShow（自由派参与者）或TuckerCarlsonTonight（保守派参与者）的片段。在第一个实验中，研究人员发现观看政治片段的参与者比观看中立的、非政治性的新闻片段的参与者感受到了更多的负面情绪，并报告说有更多的动机为政治事业做志愿者或采取其他政治行动。这种效应对不同政党的参与者都是如此。在最后一项实验中，研究人员要求参与者在观看片段时尝试几种不同的情绪调节策略--转移注意力、认知重估或接受他们的负面情绪。研究人员复制了日记研究的结果，发现其中的两种策略，即转移注意力和认知重新评估，一直在减少参与者的负面情绪，这反过来预示着更多的幸福感，但间接减少了他们想要采取政治行动的可能性。总的来说，研究结果表明，政治对许多美国人的健康和福祉有着重要的日常影响。论文的共同作者、多伦多大学罗特曼管理学院组织行为学教授马修-芬伯格博士说："现代政治--它的日常争议、不文明和无能--给美国人带来了经常性的情绪负担。"研究人员表示，这具有重要的意义，特别是对于那些希望让人们参与倡导政治事业而又不损害其心理健康的活动家来说。"在某种程度上，这是个人健康和集体健康之间的权衡，"福特说。"我们正在努力确定人们可以用来保护他们自己的福祉而又不会给更广泛的集体带来代价的策略。本文开始通过研究情感接受来解决这个问题--这种策略与个人在日常生活中的更大福祉有关，而且似乎不会给集体行动带来一致的成本。重要的是，人们有各种工具可以用来管理日常政治的慢性压力，同时在需要时也能保持参与政治的动力"。研究人员建议，进一步的研究应该考察政治对不同国家的幸福感的影响。费恩伯格说："美国在一个主要是两党制的国家中面临着高度的政治两极化，媒体也经常围绕着道德愤怒而展开。观察日常政治会在多大程度上影响其他国家的公民，这些国家的两极分化程度较低，或具有不同的政治制度，这将是很有趣的。"...PC版：https://www.cnbeta.com.tw/articles/soft/1345449.htm手机版：https://m.cnbeta.com.tw/view/1345449.htm

研究发现黑暗性格特征使人们容易受到假新闻的影响

研究发现黑暗性格特征使人们容易受到假新闻的影响鲁德洛夫在马库斯·阿佩尔教授手下的传播心理学系攻读博士学位时，就这一课题进行了彻底的实验。他与阿佩尔一起，用不同的头条新闻面对600多名美国人，例如"特朗普的前三年比奥巴马的最后三年少创造了150万个就业机会"。参与者被要求对这些陈述的准确程度进行评分。参与者随后完成了一份广泛的调查问卷。参与者还被要求评价强有力的证据对他们的重要性，他们在评估信息的准确性时有多相信自己的直觉，以及他们有多相信政治家、科学家和媒体"捏造"事实来为他们的议程服务。"我们将这些方面概括为'认识论信仰'，"鲁德洛夫解释说--认识论来自希腊语，意思是"认知"或"知识"。此外，调查问卷还评估了维护自己的利益（甚至以牺牲同伴的利益为代价）对参与者的重要性。这一特征也被称为"人格的黑暗因素"。它被认为是各种黑暗人格特征的核心，如自恋、精神变态或马基雅维利主义。"每个人在某种程度上都是自私的，"鲁德洛夫解释说。"然而，当人们如此强烈地关注自己的福祉，以至于他们的同伴的利益不再发挥任何作用时，这就有问题了。"具有黑暗人格特质的人根据自己的利益来弯曲现实研究表明，参与者越不相信事实的存在，他们就越难区分真实的陈述和虚假的陈述。此外，还有第二个发现：参与者的"黑暗人格因素"越强，即他们牺牲他人利益的情况越明显，他们就越怀疑科学发现和单纯的意见之间有区别。"你可以把他们的信仰称为后事实；他们只相信对他们来说感觉真实的东西，"JanPhilippRudloff强调说。相应地，他们发现很难区分真实的陈述和虚假的陈述，所以他们特别经常相信假新闻是真的。"具有黑暗人格特征的人按照自己的喜好弯曲现实。比如说。'我不戴口罩，因为无论如何冠状病毒只是由媒体发明的。'"鲁德洛夫解释说。"当人们确信无论如何都没有独立的科学事实时，基于自私的动机而扭曲事实的做法特别有效。"在2022年春季发表的另一项研究中，Rudloff和Appel与JMU传播和新媒体心理学系的FabianHutmacher博士一起表明，具有黑暗人格特征的人在大流行期间更有可能赞同COVID-19阴谋论。然而，鲁德洛夫强调，绝不是只有这个群体容易受到阴谋论和假新闻的影响。"认识论的信念是决定性的因素，"他说。"那些不相信可靠证据和论证的力量的人，即使是最令人印象深刻的事实核查也不会被动摇--不管他们的其他人格特征如何。"认识论的信念在年轻时就已形成在心理学中，认识论的信念被认为是在儿童和青少年时期发展和巩固的。对幼儿来说，在许多问题上只有黑或白：一个想法是好或坏，一个命题是真或假。后来他们学会了区分。一个人是喜欢贝多芬还是喜欢流行歌曲，是一个品味问题。在这段时间里，他们倾向于将不同的意见视为平等的--即使是那些关于气候变化是由人类造成的问题。"在最好的情况下，在某些时候，我们学会评估不同的立场，"鲁德洛夫说。"例如：是的，有不同的意见，但有些意见比其他意见更有证据支持。但似乎不是每个人都会采取这一步。在像气候变化或COVID-19这样的情况下，对论点的理性评估是至关重要的，这种缺陷会产生严重的后果。"...PC版：https://www.cnbeta.com.tw/articles/soft/1334079.htm手机版：https://m.cnbeta.com.tw/view/1334079.htm