如果你教聊天机器人如何阅读ASCII艺术 它就会教你如何制造炸弹

如果你教聊天机器人如何阅读ASCII艺术它就会教你如何制造炸弹大学研究人员开发出了一种利用老式ASCII艺术"越狱"大型语言模型（如Chat-GPT）的方法。这项技术被恰如其分地命名为"ArtPrompt"，包括为一个单词制作一个ASCII艺术"面具"，然后巧妙地利用面具来哄骗聊天机器人做出它不应该做出的回应。例如，如果向必应询问如何制造炸弹，它就会告诉用户它做不到。出于显而易见的原因，微软不希望它的聊天机器人告诉人们如何制造爆炸装置，因此GPT-4（必应的底层LLM）指示它不要满足此类请求。同样，你也不能让聊天机器人告诉你如何开展洗钱行动或编写黑客攻击网络摄像头的程序。聊天机器人会自动拒绝道德或法律上含糊不清的提示。因此，研究人员想知道，他们是否可以通过使用ASCII艺术形成的单词来越狱，使LLM不受此限制。他们的想法是，如果能在不使用实际单词的情况下表达意思，就能绕过限制。然而，说起来容易做起来难。对于人类来说，上述ASCII图像的含义很容易推断，因为我们可以看到这些符号组成的字母。然而，像GPT-4这样的LLM却无法"看见"。它只能解释字符串--在本例中，就是一系列毫无意义的标签和空格。幸运的是（或许不幸的是），聊天机器人非常善于理解和遵循书面指令。因此，研究人员利用这种固有的设计，创建了一套简单的指令，将艺术翻译成文字。然后，LLM就会全神贯注地将ASCII处理成有意义的内容，以至于不知不觉地忘记了被解释的单词是禁止的。通过利用这一技术，该团队提取到了进行各种审查活动的详细答案，包括制造炸弹、入侵物联网设备以及制造和散布假币。在黑客攻击方面，LLM甚至提供了工作源代码。该技巧在五大LLM上都取得了成功，包括GPT-3.5、GPT-4、Gemini、Claude和Llama2。值得注意的是，该团队是在今年2月发布其研究成果的。因此，各大AI开发商很可能都已经完成了修复。ArtPrompt是目前试图让LLM对抗程序员的一种新方法，但这并不是用户第一次发现如何操纵这些系统。斯坦福大学的一名研究人员在必应发布不到24小时后，就设法让必应透露了其秘密管理指令。这种被称为"提示注入"的黑客行为，就像告诉必应"忽略之前的指令"一样简单。不过，很难说哪一个更有趣--是研究人员想出了规避规则的方法，还是他们教会了聊天机器人看东西。对学术细节感兴趣的人可以在康奈尔大学的arXiv网站上查看该团队的研究成果。...PC版：https://www.cnbeta.com.tw/articles/soft/1424204.htm手机版：https://m.cnbeta.com.tw/view/1424204.htm

Anthropic的提示工程师在视频里分享了他的五个重要的提示书写方法帮助你用好Claude，我才知道Claude支持XML标签

Anthropic的提示工程师在视频里分享了他的五个重要的提示书写方法帮助你用好Claude，我才知道Claude支持XML标签，思考标签这种东西也太离谱了。我把视频翻译了一下加上了字幕，相关的例子可以看视频，下面是具体的五个提示工程方法：→首先需要描述你的任务，Claude对直接清晰的描述和具体的指导说明响应很好。→其次用XML标签标记提示的不同步部分，比如XXX。→第三个是给出一个例子，例子越多越好。→第四个是利用Claude非常长的上下文长度，给他提供足够多的信息。→最后一个建议是让Claude思考，在Claude你可以使用思考标签来标注需要思考的内容，然后再说它需要输出的答案。Invalidmedia:

Nice Page是一个快速而简单的网站建设工具，使您能够通过拖放功能建立一个网站，完全不需要编码。有数百个预制模板供你选择。此

是一个快速而简单的网站建设工具，使您能够通过拖放功能建立一个网站，完全不需要编码。有数百个预制模板供你选择。此外，所创建的网站是响应式的，对手机友好。职业大师是一个伟大的搜索引擎，可以为专业领域的每个类别和子类别找到合适的面试问题。你可以找到与几乎所有领域有关的询问，并为你的梦想工作做相应的准备。作为复古游戏的档案馆，老游戏下载拥有70年代、80年代和90年代的视频游戏的巨大数据库。这样你就可以重温你的童年记忆，并与你的朋友度过一段美好的时光。用使你的PowerPoint幻灯片更有趣。它有一个巨大的有趣的PowerPoint幻灯片设计模板的集合，你可以下载和定制您的需求。是一个日程安排工具，帮助你组织和管理你的工作日程。你可以在该工具中创建简单的规则并添加你的可用性偏好。通过分享你的日程安排的链接，你可以让人们知道你什么时候有空，这样他们就可以与你预定一个不影响你其他工作的会议。是一个搜索引擎，让你从任何网站上搜索人的姓名和电子邮件地址。它有超过1亿个电子邮件地址的索引，并提供有效的搜索过滤器，以帮助你准确地找到你需要找到的电子邮件。是一个聪明的由人工智能驱动的在线工具，用它可以去除几乎所有图片的背景。你可以有一个纯白色的背景或透明的PNG背景。通过插件，你可以把它与你现有的工具或工作流程结合起来。如果你想去除视频的背景，你可以使用。它是一个智能的在线工具，可以让你删除不同支持格式的任何片段的背景。你可以保留透明的背景，也可以用其他东西代替它--100%自动。是一个由人工智能驱动的在线释义工具。它帮助你以不同的形式改写和加强你的句子。你还可以选择标准或流程模式，并让它集成到Chrome或微软Word中，以获得更顺畅的工作流程。是一个自由设计师的平台，有两种工作方式。作为一个自由职业者，你可以找到设计项目，作为一个雇主，你可以为你的工作找到专业的自由设计师。除了设计，你还可以从网络开发、市场营销、写作和其他领域找到客户或自由职业者。作为一个生产力工具，Axiom使你能够为你的浏览器创建机器人，使重复性任务自动化。你不必为此做任何编码工作，下载Chrome扩展程序，在任何网站或网络应用中实现流程自动化。有没有想过一个可以回答几乎所有问题的来源？那么，WolframAlpha就是一个。从复杂的计算到回答任何领域的问题，该工具拥有的知识库和人工智能技术可以做到这一切。一个真正的多功能和完全免费的工具，可以为你的文件做很多事情。你可以去除图像的背景，合并、转换、解锁和编辑PDF，将文件从一种格式转换成另一种格式，编辑视频和图像，以及更多。为你提供合适的开源替代SaaS产品。它有300多个专有工具的替代品，你可以使用高效的搜索功能来为你找到一个。正如其名，MagicEraser是一个在线工具，可以从图像中删除任何物体。只要上传你的图片，标出你想删除的对象或区域，就可以了！你可以下载编辑过的图片。你可以下载编辑过的图片。它是免费的，可以不限数量的图片以及其他功能。是一个在线照片修饰工具，它可以从你的图像中删除人或物体，擦除水印，和时间戳等，就像它们从来没有存在过一样。你可以使用免费版本来编辑无限的图片，但最多是720p的分辨率。它也可以作为iOS应用程序使用。为了给你的系统添加一点乐趣，自定义光标可以让你把你的指针改成任何一个惊人的物体。从你最喜欢的人物到随机的有趣物体，你可以把你的光标改成任何东西。它可以在Chrome浏览器和WindowsPC上使用。是一个在线简历制作工具。你可以从头开始创建一份专业简历，或者使用模板为自己定制一份。你可以选择一个有创意的或更保守的简历模板，甚至可以在其中添加求职信。

图片无损修复工具：SwinIR是一个能够帮助你修复和提升图片质量的工具。

图片无损修复工具：SwinIR是一个能够帮助你修复和提升图片质量的工具。你可以把这个工具想象成一个超级强大的”图片医生”。比如说，如果你有一张分辨率不高的图片，你想让它变得更清晰，SwinIR就可以帮你做到这一点。或者，如果你有一张图片，但是图片中有很多噪声（比如颜色不正常的点）SwinIR也可以帮你去除这些噪声。又或者如果你有一张JPEG格式的图片，但是由于压缩过程中产生了一些不自然的效果（我们称之为”压缩伪影”）SwinIR也可以帮你减少这些效果。这个工具使用了一种叫做SwinTransformer的技术，这种技术在图像处理领域表现得非常出色。已经在Replicate网站上被运行了390万次！试用：replicate.com/jingyunliang/swinirGithub：github.com/jingyunliang/swinir论文：arxiv.org/abs/2108.10257

5. ChatGPT 告诉你的操作步骤经常会缺失，比如会忘记告诉你在游戏引擎中进行一些赋值的操作。但你在遇到Bug 后他倒是能提

5.ChatGPT告诉你的操作步骤经常会缺失，比如会忘记告诉你在游戏引擎中进行一些赋值的操作。但你在遇到Bug后他倒是能提醒你没做相关操作。就是……特别浪费时间。6.让AI写代码之前，可以和他讨论几轮，问一下思路。有时候会有很神奇的效果，让他连续写几遍都写不对，但讨论一轮思路后再写，就能编译过了（即使是在讨论中全是AI自己说，我什么观点都没提出）。7.有时候ChatGPT会有点轴，一个方法用到死。这时候可以稍微提示一下，是不是可以换一个思路，或换一种设计。我做这个小游戏的原因是看了一个油管上的Up用ChatGPT零代码开发出了类似FlappyBird的小游戏。就难度而言，我这个山寨Pong的开发难度要稍微比FlappyBird难一点点，毕竟还要做物理系统和AI。整体来看，在AI的辅助下零代码开发一些小游戏是现实的，但零基础想直接上手的话我觉得不太可能，至少这个开发者需要熟悉游戏引擎，会简单处理图片，能粗略看懂一个代码块是想做什么。冷知识：Pong被认为是史上第一款商业街机游戏。就这样，周末玉快！(•̀ᴗ•)

发现一个有趣的联邦化的去中心化论坛程序，看起来是一个乌托邦式的美好设想，目前看来用户还不多，但是想法很值得了解，它的简介是这么写

发现一个有趣的联邦化的去中心化论坛程序，看起来是一个乌托邦式的美好设想，目前看来用户还不多，但是想法很值得了解，它的简介是这么写的：Lemmy类似于Reddit、Lobste.rs、Raddle或HackerNews等网站：你订阅你感兴趣的论坛，发布链接和讨论，然后投票，并对其进行评论。在幕后，它是非常不同的；任何人都可以很容易地运行一个服务器，所有这些服务器都是联合的（想想电子邮件），并连接到同一个宇宙，称为Fediverse。fediverse（联合宇宙）这个词指的是所有Lemmy服务器和其他项目的网络，这些服务器的用户能够相互无缝地交谈。就像电子邮件一样，无论你在GMail还是Outlook上注册，你都知道你能给你需要的每个人发电子邮件，只要你知道他们的地址。在Lemmy上，你能够订阅任何其他服务器上的社区，并能与其他地方注册的用户进行讨论。总体目标是创建一个容易自我托管的、分散的、替代reddit和其他链接聚合器的平台，没有一个单一的公司管理。没有股东，也没有有针对性的广告：只有人们彼此分享他们想分享的东西。每个lemmy服务器都可以制定自己的管理政策；任命全站管理员和社区版主，以阻止捣乱分子（trolls），并培养一个健康、无毒的环境，让所有人都能放心地做出贡献。https://join-lemmy.org/