OPENAI 探索如何负责任地制作 AI 色情作品

OPENAI 探索如何负责任地制作 AI 色情作品 人工智能公司 OPENAI 周三透露，正在探索如何“负责任地”允许用户制作人工智能生成的色情内容和其他露骨内容。在该公司产品规则反馈文件中：“我们正在探索是否可以通过 API 和 ChatGPT 负责任地提供在适合年龄的环境中生成 NSFW 内容的功能。”帮助撰写该文件的 OPENAI 产品负责人 Joanne Jang 在接受采访时表示，该公司希望就其人工智能产品中是否应该始终禁止色情文字和裸照展开讨论。Jang 说：“我们希望确保人们在不违反法律或其他人权利的情况下拥有最大程度的控制权，但前提是不得使用深度伪造。”“这并不意味着我们现在正在尝试开发相关内容。” 、

一款人工智能聊天机器人，由先进且创新的 ChatGPT 和 GPT-4 提供支持，在 OpenAI 先进技术的支持下，MateA

一款人工智能聊天机器人，由先进且创新的 ChatGPT 和 GPT-4 提供支持，在 OpenAI 先进技术的支持下，MateAI 将成为您的个人 AI 助手、朋友和对话伙伴. #AI #MateAI

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24 东南亚犯罪集团正在所谓的“杀猪盘”网络诈骗行动中使用生成式人工智能聊天机器人，这种更复杂的手段可以提高诈骗的有效性，并将扩大受害者的范围。 所谓的“杀猪盘”，是网络诈骗的一种新方式，犯罪分子通常潜伏在约会应用程序和社交平台中，将浪漫爱情和赌博心理融入其作案手法。诈骗分子对受害者进行数天甚至数月的网络亲密接触，然后才“收获”诈骗果实，这一过程类似于将猪养肥以供屠宰。 聊天机器人在情绪和感受上“露马脚” 据澳大利亚广播公司（ABC）5月16日报道，犯罪分子过去通常会使用详细的“脚本”来获得受害者的信任，而现在他们利用大语言模型（LLM）或聊天机器人，用不同语言向受害者发送消息，进一步扩大了影响范围。生成式人工智能还可以使对话更有说服力，并减少诈骗分子与多个受害者互动的工作量。 虽然ChatGPT、Gemini和Copilot等主要人工智能聊天机器人都有防止其协助非法活动的护栏，但其他一些正在开发的大语言模型没有此类限制。 网络安全公司Sophos的研究人员贾格迪什·钱德拉亚（Jagadeesh Chandraiah）在一篇博客文章中表示，生成式人工智能将文本、图像、视频与翻译相结合，生成不重复的“定制内容”。它还可用于编写“杀猪脚本”，写出令人信服的网络钓鱼电子邮件，甚至提供如何从头开始进行诈骗的步骤说明，这也可能降低诈骗犯罪的门槛。 然而，犯罪集团似乎还无法熟练地使用人工智能。研究人员发布了一张诈骗目标提供的屏幕截图，显示诈骗分子意外透露了他们正在使用大语言模型来生成消息。骗子在给目标客户发送的WhatsApp消息中写道：“非常感谢您的善意之言！’我’作为一个语言模型，没有像人类那样的感觉或情绪，我被创造出来提供有用和积极的答案帮你。” 钱德拉亚告诉ABC，人工智能的运作仍然需要人类协助，机器人偶尔会发送一些信息，可能表明它们无法与人类交流，尤其是在感受和情绪方面。“就’杀猪盘’而言，目前的模型不太擅长描绘情绪和感受，而这又是此类骗局得以成功的关键。” 但钱德拉亚认为，未来随着人工智能的进一步发展，受害者将很难识别他们正在与机器人进行通信。 AI实时换脸已成精准聊天必备 除了最新的聊天机器人，一些传统的人工智能技术，比如深度造假技术近年来也迅速进步，已达到可以用较高的逼真度完成实时对话的水平。前黑客、越南网络安全专家吴明晓（Ngô Minh Hiu）表示，用户现在可以通过开源软件或付费方式轻松订阅实时换脸技术（一种仅改变对象脸部的深度造假技术）。 全球反诈骗组织（GASO）向ABC提到，一家软件提供商在广告中宣称其“人工智能实时换脸是精准聊天的必备”。广告称，“它解决了好看的（真人）模特难以招募和管理、成本高昂的问题。”该软件还集成了语音克隆功能，对特定目标的模仿相似度可以达到“60％至95％”。 另一家换脸软件提供商在柬埔寨提供7天24小时支持、“送货上门”服务，并声称已在1000多个区域安装了其产品。该广告称，使用该系统只需要提供一张照片，可用于WhatsApp、Messenger、Line等社交平台上的视频通话。 除了“杀猪盘”之外，犯罪分子还利用换脸技术实施其他类型的诈骗，例如冒充名人进行投资诈骗，以及冒充家人或警察来恐吓受害者付钱。它还可以用来逃避一些金融机构要求的基于视频的身份检查。 澳大利亚阳光海岸市市长罗珊娜·纳托利（Rosanna Natoli）最近称，一名诈骗者使用该技术冒充她与她的一位朋友进行Skype通话。她说：“这位朋友告诉我，这看起来像我，但听起来不像我。” “大多数换脸应用程序都无法伪造实时声音。”一位了解柬埔寨诈骗情况的消息人士向ABC表示，技术能力、计算能力和互联网带宽等往往限制了诈骗分子使用换脸技术。“（在许多情况下）聘请东欧模特更为实际。”他说，尽管技术进步，镜头前的真人仍然看起来更合理。 在缅甸，从事加密货币“杀猪盘”业务的Sam在采访中说，他的老板曾短暂尝试过人工智能，因为越南模特逃跑了。老板希望应用程序能够以数字方式改变团队中讲英语成员在视频通话中的外观，但没有足够的源照片来支撑应用程序运行。 “用头脑思考，而不是用心思考” 上个月，澳大利亚竞争和消费者委员会（ACCC）反诈骗中心表示，虽然2023年统计的诈骗数量比2022年有所增加，但损失总额下降了13.1%，至27.4亿澳元（约合132.7亿元人民币）。然而，ACCC发言人仍然对新技术的出现发出警告，“诈骗手段日益复杂，我们应该对人工智能带来的风险保持警惕。这将使得人们更难识别诈骗，平台应继续谨慎处理任何个人信息或金钱请求，并在点击链接时保持谨慎。”

不想再惹大祸：谷歌整合旗下AI团队 安全团队更接近研发

不想再惹大祸：谷歌整合旗下AI团队 安全团队更接近研发 谷歌最近在一篇博客中宣布，为进一步加强安全人工智能的开发，公司将把专门负责此项任务的“Responsible AI”团队从Research部门调整到DeepMind部门。此举是为了让该团队更紧密地与人工智能模型的构建和扩展工作对接。这一举措正值全球对人工智能安全性的担忧日益加剧之时，人们对监管人工智能技术的需求也越来越强烈。DeepMind团队协助开发了谷歌最先进的人工智能模型Gemini，该模型能够处理视频、音频和文本等多种信息形式，于去年年底投入使用。虽然Gemini的推出对Alphabet的股价产生了积极影响，但该模型在一些历史图像生成上的描述错误也引发了批评，导致谷歌暂停了Gemini的图像生成功能。一年前，谷歌合并了其研究部门Google Brain和DeepMind，专注于人工智能开发，以期赶超微软等竞争对手。微软是ChatGPT和Sora的开发商OpenAI的合作伙伴。此外，上个月谷歌还任命DeepMind的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）为新成立的消费级人工智能部门的负责人。尽管谷歌正在不断增加对人工智能和自动化的投资，但在整合人工智能团队之前，公司已经实施了一系列裁员和成本削减措施。谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）去年表示，公司计划在2024年发布一系列人工智能模型。 ... PC版： 手机版：

Google 瞄准 chatGPT，将在今年推出自带有聊天机器人功能的搜索引擎

Google 瞄准 chatGPT，将在今年推出自带有聊天机器人功能的搜索引擎 据《》报道，OpenAI的人工智能聊天机器人ChatGPT推出后在谷歌内部引起了恐慌。 《泰晤士报》表示，谷歌计划“今年展示其带有聊天机器人功能的搜索引擎版本”，并推出了20多个由人工智能驱动的项目。 标签: #Google #chatGPT #人工智能 频道: @GodlyNews1 投稿: @GodlyNewsBot

外媒评Google I/O 2024：传统搜索日薄西山 谷歌全力重塑新模式

外媒评Google I/O 2024：传统搜索日薄西山 谷歌全力重塑新模式 此次大会上，Google宣布了其人工智能战略在各业务领域的全面落地。特别是，备受关注的Gemini聊天机器人获得了显著的功能增强，Google还对其核心搜索引擎进行了革命性的改进，目的是在与不断增强的人工智能竞争对手竞争中不落下风。具体而言，在大会上Google正式发布了多项新产品和服务：最新大语言模型Gemini1.5 Pro、针对快速响应场景的Gemini 1.5 Flash、参数量更大的开源模型Gemma 2、图像生成工具Imagen 3、视频生成模型Veo，以及在搜索引擎中新增的AIOverviews功能和实时人工智能助手。此外，Google还推出了第六代TPU芯片Trillium，为其人工智能应用提供了更强大的算力支持。关于此次GoogleI/O开发者大会的盛况，外国主流媒体纷纷发表评论。《华尔街日报》：Google新AI功能将重塑利润丰厚的互联网搜索业务Google将在年底前向其搜索引擎的数十亿用户展示由人工智能提供支持的答案，通过这种方式扩大该技术的应用范围，以应对其核心业务领域日益激烈的竞争。该策略已在本周在美国率先实施，这标志着Google对生成式人工智能技术的坚定支持。投资者和竞争对手普遍认为，这次更新不仅体现了Google对该技术的信心，也是其尝试重塑在线信息互动方式的一大步。这一举措将受到密切关注，因为它将深刻影响Google数千亿美元的广告销售业务，同时也会影响Google与网上内容提供商之间的关系，它们目前依赖搜索引擎流量。自OpenAI在2022年底推出ChatGPT以来，I/O开发者大会已成为Google展示其人工智能能力的重要平台，促使其加速推出竞争技术。Google的人工智能策略中，与其核心业务密切相关的新搜索功能尤为引人注目。Google一年前宣布了这一项目，此前，OpenAI的主要支持者微软已推出了使用人工智能以对话形式回答问题的必应搜索引擎版本。同时，如估值超过10亿美元的Perplexity等初创公司也推出了能够整合网络信息的类似工具。据悉，OpenAI正开发一款搜索产品，将与这些产品竞争。Google表示，本周将有数亿美国用户开始在搜索中看到AI Overviews，并预计到年底前，随着该功能在其他国家的推出，将有超过10亿用户体验到这一功能。此前，Google已在通过名为“搜索实验室”的项目注册的用户中测试了这些功能。投资者对Google搜索的任何变化都极为敏感，因为这些变化可能影响广告点击量。去年，去年，其母公司Alphabet收入高达3070亿美元，大部分来源于搜索结果旁的广告。为缓解投资者对人工智能解决方案成本增加的担忧，Alphabet CEO桑达尔·皮查伊（Sundar Pichai）上月在财报电话会上表示，自去年以来与人工智能摘要相关的搜索成本已下降了80%。这一转变也引起了新闻媒体和独立网站所有者的关注，他们依赖搜索引擎在读者面前展示自己。作为回应，Google承诺将优先向出版商提供流量。Google表示，与普通搜索结果相比，当链接被纳入AI Overviews时，人们点击它们的次数更多。然而，在推广这项技术时，Google表现出了极大的谨慎。目前，Google不打算在搜索页面上提供与人工智能聊天机器人进行长时间对话的功能，尽管这在用户测试中受到欢迎，并在去年的大会上进行了展示。《纽约时报》：Google迈出AI发展的下一步皮查伊去年5月表示，Google计划利用人工智能来重塑其全部产品线。然而，由于新的生成式AI技术可能传播虚假信息的风险，Google在将此技术应用于其庞大的搜索引擎时，采取了谨慎的态度。Google搜索引擎拥有超过20亿活跃用户，去年为Google创造了高达1750亿美元的收入。在加州山景城举行的Google开发者大会上，皮查伊详细介绍了Google如何逐步将人工智能技术融入其搜索引擎。他宣布，从本周起，美国用户将首次体验到一种名为AI Overviews的新功能，该功能在传统搜索结果之上提供信息摘要。预计到今年年底，全球将有超过10亿用户体验到这项先进技术。然而，AI Overviews的推出可能加剧内容提供商对流量减少的担忧，这些提供商已因与其他科技平台的分歧面临困境，而Google的新产品可能进一步加重这一压力。在Google搜索中，用户将看到某一主题的更详细摘要，这可能减少他们访问其他网站的需求，尽管Google试图淡化这些担忧。此外，Google还公布了其他战略举措，包括轻量级AI模型、新芯片及旨在帮助用户执行任务的智能主体等，以在与微软和OpenAI的人工智能竞赛中占据有利地位。皮查伊强调：“我们正处于人工智能平台转型的初期阶段。我们希望每个人都能从Gemini的能力中受益，无论是开发者、初创企业还是公众。”随着ChatGPT在2022年底横空出世，一些科技界人士认为这是对Google搜索引擎的严峻挑战，后者一直是最受欢迎的在线信息获取方式。自那以后，Google一直在努力重新夺回人工智能领域的领先地位，推出了一系列名为Gemini的技术。Google还将这项技术应用于YouTube、Gmail和Docs，帮助用户更轻松地创建视频、电子邮件和文档草稿。与此同时，Google与OpenAI及其合作伙伴微软的竞争仍在继续。在Google大会的前一天，OpenAI展示了一个更类似于语音助手的新版ChatGPT。在最新的活动中，Google展示了如何更深入地将人工智能融入用户的日常生活中。它推出了“阿斯特拉计划”（ProjectAstra），这是一项旨在探索人工智能作为智能主体与用户进行语音互动，并对图像和视频做出反应的实验。皮查伊预计，绝大多数人将通过Google搜索引擎与Gemini人工智能技术进行互动，“我们希望使人们与Gemini的互动变得更加无缝”。路透社：Alphabet推动增强版AI搜索和聊天机器人以应对竞争Google母公司Alphabet在周二详细介绍了如何在各业务领域深入整合人工智能。此举显著增强了其Gemini聊天机器人的功能，并对其著名的搜索引擎进行了革命性改进，目的是在人工智能领域与竞争对手进行正面较量。微软支持的OpenAI在2022年推出的ChatGPT引发了公众极大关注，这一突破性技术看似威胁到了Google在在线搜索和人工智能领域的长期领导地位。为应对此挑战，Google迅速推出了一系列新产品，展示其不断创新的决心。在Google此次全新进攻中，尤为引人注目的是名为Flash的Gemini 1.5 AI模型系列的新成员，这款模型具有更快的运行速度和更低的成本。此外，Google还展示了名为Project Astra的智能助手原型，该助手能与用户就智能手机摄像头实时捕捉到的内容进行对话。同时，Google推出了基于人工智能生成的标题来分类搜索结果，使搜索过程更加高效和精确。对于人工智能更新是否会对Google的盈利业务造成影响，皮查伊表示：“这是一个充满增长和机遇的时代。”OpenAI先前通过演示ChatGPT以类似人类的方式回答各种书面或视觉提示的能力，展示了其技术的先进性和实用性。OpenAI首席执行官萨姆·奥特曼（Sam Altman）甚至曾说，OpenAI提供的软件“感觉就像是电影中的人工智能”。Google的新举措也时常引发与OpenAI在人工智能领域的激烈竞争的讨论。作为Alphabet旗下的人工智能部门，GoogleDeepMind一直在开发能帮助消费者完成日常任务的技术。这些技术在Project Astra中得到了充分展示，该工具可以利用智能手机摄像头提供关于周围世界的信息概览，为用户的生活带来极大便利。Google在谈到Astra时表示：“我们的目标是建立一个通用的人工智能主体，它能够在日常生活中发挥真正的帮助作用。”市场研究机构eMarketer的分析师雅各布·伯恩（Jacob Bourne）指出：“本周发布的AI Overviews将成为衡量Google能否调整其搜索产品以适应生成式人工智能时代需求的重要指标。为... PC版： 手机版：