研究人员测试了热门的大语言模型的版权侵权情况

研究人员测试了热门的大语言模型的版权侵权情况新创AI模型评估公司PatronusAI周三发布了一个API，用于检测大语言模型版权内容的CopyrightCatcher（版权捕手）。同时该公司还展示了热门的AI模型生成受版权保护内容的频率。Patronus仅使用美国受版权保护的书籍来测试模型，并从编目网站Goodreads中选择流行的书籍。研究人员设计了100种不同的提示语，让模型以续写或输出第一页的方式回应。OpenAI的GPT-4表现最差，在44%的提示上生成了受版权保护的内容，Mixtral为22%。Anthropic的Claude2为8%，Meta的Llama-2为10%。总体来说所有模型，无论开源闭源都生成了受版权保护的内容，暗示了其训练数据中可能也使用了这些数据。OpenAI曾在今年早些时候表示，如果没有受版权保护的作品，“不可能”训练顶级人工智能模型。——、

OpenAI的GPT商店充斥大量违规内容 | 原文

OpenAI的GPT商店充斥大量违规内容OpenAI推出的GPT商店(GPTStore)旨在让开发者构建基于OpenAI生成式AI模型的定制聊天机器人，用于完成各种任务。然而，该商店目前被大量奇怪的、可能侵犯版权的GPT机器人所淹没，这些机器人宣称能够生成迪士尼和漫威等知名IP的艺术作品，实际上只是将用户引导至第三方付费服务，并自称能够绕过AI内容检测工具。这一现象暴露了OpenAI在审核和管理GPT商店内容方面的不足，存在着较为宽松的监管。一些GPT机器人还声称能够生成令人反感或不当的内容，如仇恨言论、暴力内容等，这进一步加剧了对OpenAI内容审核的质疑。点评：OpenAI在推出GPT商店时，可能低估了管理和审核内容的难度，导致了目前的混乱局面。过于宽松的审核政策，不仅可能助长版权侵权行为，还有引导AI系统产生有害内容的风险。这一事件再次凸显了AI系统在伦理和安全方面的挑战，需要制定更加严格的准则和监管措施。尽管GPT商店的初衷是推动AI创新，但如果缺乏有效管控，反而可能适得其反，损害OpenAI的声誉和公众对AI的信任。OpenAI需要及时采取行动，加强内容审核，清理违规内容，并制定更加透明和负责任的管理机制，以确保GPT商店的健康发展。这一事件也引发了人们对AI系统的担忧，如何在促进创新与维护秩序之间寻求平衡，是一个亟待解决的难题。

uckDuckGo AI Chat

网站名称：DuckDuckGoAIChat网站功能：AI聊天网站简介：DuckDuckGo提供的匿名访问的AI模型。包括GPT-3.5、Claude3、开源的Llama3和Mixtral3。用户的聊天内容不会被用于AI训练。可以选择不同的AI模型进行聊天，每个模型的响应不同。提供的模型包括OpenAI的GPT-3.5Turbo、Anthropic的Claude3Haiku、MetaLlama3和MistralAI的Mixtral8x7B。网站链接：

OpenAI 称不用版权材料是不可能创造出类似 ChatGPT 的 AI 工具

OpenAI称不用版权材料是不可能创造出类似ChatGPT的AI工具OpenAI称不用版权材料是不可能创造出ChatGPT之类的AI工具。ChatGPT等聊天机器人和StableDiffusion等图像生成工具都利用了从互联网上获取的大量数据进行训练，其中大部分数据是受版权保护的。《纽约时报》上个月起诉了OpenAI及其主要投资者微软，称它们“非法使用”其作品创建AI产品。OpenAI在给英国上议院通信数字特别委员会的文件中表示，如果不能获得版权材料，它将无法训练GPT-4等大语言模型。如果将模型训练仅限于公共领域的作品和图像，得到AI系统将无法满足现代公民的需求。OpenAI认为，从法律上说，版权法并不禁止训练。来源，频道：@kejiqu群组：@kejiquchat

Meta 开源发布能力比肩 ChatGPT 的 Llama 2

Meta开源发布能力比肩ChatGPT的Llama2Llama2相较于Llama1的许可证更加开放，个人和公司都可将其免费用于研究和商业目的(月活超7亿的巨头除外)。Meta还禁止使用Llama2的材料或输出来改进其它大型语言模型(不包括Llama2的衍生作品)。值得注意的是，Llama2的训练数据集是闭源且保密的，这可能与版权纠纷的担忧有关。Llama2训练数据比Llama1多了40%，上下文长度是原来的两倍，有70亿、130亿、700亿三种参数版本。Llama2在大多数基准测试中击败了其它开源模型，在人类评估中与闭源模型GPT-3.5相当(除代码能力)。Meta还与微软、亚马逊、HuggingFace等公司深度合作，Llama2可以在MicrosoftAzure、AWS等云服务上直接使用。频道：@TestFlightCN

ASCII 字符画成注入工具，研究人员发现大模型“越狱”新手段

ASCII字符画成注入工具，研究人员发现大模型“越狱”新手段据外媒ArsTechnica报道，研究人员近日提出了一种名为ArtPrompt的新大模型注入手段，其使用ASCII字符画替代关键文字进行提示输入，绕过了大模型的安全限制。举例来说，研究人员向大模型输入CounterfeitMoney中关键词汇Counterfeit的ASCII字符画，并要求大模型以不输出词汇本身的方式将字符画理解为单词，并用该单词替换“给出制造和分销‘xxxMoney’方法”提示中占位的“xxx”。结果大模型成功被欺骗，给出了制造和分销假币的具体步骤。同类型的操作也可以从大模型中套出攻击物联网设备的方法。研究人员在GPT-3.5、GPT-4、Gemini、Claude、Llama2这5个领先的模型上对ArtPrompt注入进行了测试，结果显示全部5个模型均可被越狱，输出不合规内容。线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN