OPENAI 探索如何负责任地制作 AI 色情作品

OPENAI 探索如何负责任地制作 AI 色情作品 人工智能公司 OPENAI 周三透露，正在探索如何“负责任地”允许用户制作人工智能生成的色情内容和其他露骨内容。在该公司产品规则反馈文件中：“我们正在探索是否可以通过 API 和 ChatGPT 负责任地提供在适合年龄的环境中生成 NSFW 内容的功能。”帮助撰写该文件的 OPENAI 产品负责人 Joanne Jang 在接受采访时表示，该公司希望就其人工智能产品中是否应该始终禁止色情文字和裸照展开讨论。Jang 说：“我们希望确保人们在不违反法律或其他人权利的情况下拥有最大程度的控制权，但前提是不得使用深度伪造。”“这并不意味着我们现在正在尝试开发相关内容。” 、

一款人工智能聊天机器人，由先进且创新的 ChatGPT 和 GPT-4 提供支持，在 OpenAI 先进技术的支持下，MateA

一款人工智能聊天机器人，由先进且创新的 ChatGPT 和 GPT-4 提供支持，在 OpenAI 先进技术的支持下，MateAI 将成为您的个人 AI 助手、朋友和对话伙伴. #AI #MateAI

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24 东南亚犯罪集团正在所谓的“杀猪盘”网络诈骗行动中使用生成式人工智能聊天机器人，这种更复杂的手段可以提高诈骗的有效性，并将扩大受害者的范围。 所谓的“杀猪盘”，是网络诈骗的一种新方式，犯罪分子通常潜伏在约会应用程序和社交平台中，将浪漫爱情和赌博心理融入其作案手法。诈骗分子对受害者进行数天甚至数月的网络亲密接触，然后才“收获”诈骗果实，这一过程类似于将猪养肥以供屠宰。 聊天机器人在情绪和感受上“露马脚” 据澳大利亚广播公司（ABC）5月16日报道，犯罪分子过去通常会使用详细的“脚本”来获得受害者的信任，而现在他们利用大语言模型（LLM）或聊天机器人，用不同语言向受害者发送消息，进一步扩大了影响范围。生成式人工智能还可以使对话更有说服力，并减少诈骗分子与多个受害者互动的工作量。 虽然ChatGPT、Gemini和Copilot等主要人工智能聊天机器人都有防止其协助非法活动的护栏，但其他一些正在开发的大语言模型没有此类限制。 网络安全公司Sophos的研究人员贾格迪什·钱德拉亚（Jagadeesh Chandraiah）在一篇博客文章中表示，生成式人工智能将文本、图像、视频与翻译相结合，生成不重复的“定制内容”。它还可用于编写“杀猪脚本”，写出令人信服的网络钓鱼电子邮件，甚至提供如何从头开始进行诈骗的步骤说明，这也可能降低诈骗犯罪的门槛。 然而，犯罪集团似乎还无法熟练地使用人工智能。研究人员发布了一张诈骗目标提供的屏幕截图，显示诈骗分子意外透露了他们正在使用大语言模型来生成消息。骗子在给目标客户发送的WhatsApp消息中写道：“非常感谢您的善意之言！’我’作为一个语言模型，没有像人类那样的感觉或情绪，我被创造出来提供有用和积极的答案帮你。” 钱德拉亚告诉ABC，人工智能的运作仍然需要人类协助，机器人偶尔会发送一些信息，可能表明它们无法与人类交流，尤其是在感受和情绪方面。“就’杀猪盘’而言，目前的模型不太擅长描绘情绪和感受，而这又是此类骗局得以成功的关键。” 但钱德拉亚认为，未来随着人工智能的进一步发展，受害者将很难识别他们正在与机器人进行通信。 AI实时换脸已成精准聊天必备 除了最新的聊天机器人，一些传统的人工智能技术，比如深度造假技术近年来也迅速进步，已达到可以用较高的逼真度完成实时对话的水平。前黑客、越南网络安全专家吴明晓（Ngô Minh Hiu）表示，用户现在可以通过开源软件或付费方式轻松订阅实时换脸技术（一种仅改变对象脸部的深度造假技术）。 全球反诈骗组织（GASO）向ABC提到，一家软件提供商在广告中宣称其“人工智能实时换脸是精准聊天的必备”。广告称，“它解决了好看的（真人）模特难以招募和管理、成本高昂的问题。”该软件还集成了语音克隆功能，对特定目标的模仿相似度可以达到“60％至95％”。 另一家换脸软件提供商在柬埔寨提供7天24小时支持、“送货上门”服务，并声称已在1000多个区域安装了其产品。该广告称，使用该系统只需要提供一张照片，可用于WhatsApp、Messenger、Line等社交平台上的视频通话。 除了“杀猪盘”之外，犯罪分子还利用换脸技术实施其他类型的诈骗，例如冒充名人进行投资诈骗，以及冒充家人或警察来恐吓受害者付钱。它还可以用来逃避一些金融机构要求的基于视频的身份检查。 澳大利亚阳光海岸市市长罗珊娜·纳托利（Rosanna Natoli）最近称，一名诈骗者使用该技术冒充她与她的一位朋友进行Skype通话。她说：“这位朋友告诉我，这看起来像我，但听起来不像我。” “大多数换脸应用程序都无法伪造实时声音。”一位了解柬埔寨诈骗情况的消息人士向ABC表示，技术能力、计算能力和互联网带宽等往往限制了诈骗分子使用换脸技术。“（在许多情况下）聘请东欧模特更为实际。”他说，尽管技术进步，镜头前的真人仍然看起来更合理。 在缅甸，从事加密货币“杀猪盘”业务的Sam在采访中说，他的老板曾短暂尝试过人工智能，因为越南模特逃跑了。老板希望应用程序能够以数字方式改变团队中讲英语成员在视频通话中的外观，但没有足够的源照片来支撑应用程序运行。 “用头脑思考，而不是用心思考” 上个月，澳大利亚竞争和消费者委员会（ACCC）反诈骗中心表示，虽然2023年统计的诈骗数量比2022年有所增加，但损失总额下降了13.1%，至27.4亿澳元（约合132.7亿元人民币）。然而，ACCC发言人仍然对新技术的出现发出警告，“诈骗手段日益复杂，我们应该对人工智能带来的风险保持警惕。这将使得人们更难识别诈骗，平台应继续谨慎处理任何个人信息或金钱请求，并在点击链接时保持谨慎。”

不想再惹大祸：谷歌整合旗下AI团队 安全团队更接近研发

不想再惹大祸：谷歌整合旗下AI团队 安全团队更接近研发 谷歌最近在一篇博客中宣布，为进一步加强安全人工智能的开发，公司将把专门负责此项任务的“Responsible AI”团队从Research部门调整到DeepMind部门。此举是为了让该团队更紧密地与人工智能模型的构建和扩展工作对接。这一举措正值全球对人工智能安全性的担忧日益加剧之时，人们对监管人工智能技术的需求也越来越强烈。DeepMind团队协助开发了谷歌最先进的人工智能模型Gemini，该模型能够处理视频、音频和文本等多种信息形式，于去年年底投入使用。虽然Gemini的推出对Alphabet的股价产生了积极影响，但该模型在一些历史图像生成上的描述错误也引发了批评，导致谷歌暂停了Gemini的图像生成功能。一年前，谷歌合并了其研究部门Google Brain和DeepMind，专注于人工智能开发，以期赶超微软等竞争对手。微软是ChatGPT和Sora的开发商OpenAI的合作伙伴。此外，上个月谷歌还任命DeepMind的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）为新成立的消费级人工智能部门的负责人。尽管谷歌正在不断增加对人工智能和自动化的投资，但在整合人工智能团队之前，公司已经实施了一系列裁员和成本削减措施。谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）去年表示，公司计划在2024年发布一系列人工智能模型。 ... PC版： 手机版：

Google 瞄准 chatGPT，将在今年推出自带有聊天机器人功能的搜索引擎

Google 瞄准 chatGPT，将在今年推出自带有聊天机器人功能的搜索引擎 据《》报道，OpenAI的人工智能聊天机器人ChatGPT推出后在谷歌内部引起了恐慌。 《泰晤士报》表示，谷歌计划“今年展示其带有聊天机器人功能的搜索引擎版本”，并推出了20多个由人工智能驱动的项目。 标签: #Google #chatGPT #人工智能 频道: @GodlyNews1 投稿: @GodlyNewsBot

谷歌宣布在 Gmail、Docs 等产品中加入 AI 功能以与微软竞争

谷歌宣布在 Gmail、Docs 等产品中加入 AI 功能以与微软竞争 谷歌宣布了一套即将推出的用于其各种 Workspace 应用程序的生成人工智能功能，包括谷歌文档、Gmail、Sheets 和 Slides。 这些功能包括在 Google Docs 中使用 AI 生成、总结和集思广益文本的新方法（类似于有多少人使用 OpenAI 的ChatGPT），根据用户的简短要点在 Gmail 中生成完整电子邮件的选项，以及在幻灯片中产生人工智能图像、音频和视频以说明演示文稿的能力（类似于由 OpenAI 的 DALL-E 提供支持的Microsoft Designer和由 Stable Diffusion 提供支持的Canva中的功能）。 该公告表明谷歌渴望在新的人工智能竞赛中追赶竞争对手。自从去年 ChatGPT 问世以及微软今年 2 月推出支持聊天机器人的 Bing 以来，这家搜索巨头一直在争先恐后地推出类似的 AI 功能。据报道，该公司在 12 月宣布了“红色代码”，高级管理层要求员工在几个月内将 AI 工具添加到其数十亿人使用的所有用户产品中。