ChatGPT制造商OpenAI称正在努力减少偏见和不良行为

ChatGPT制造商OpenAI称正在努力减少偏见和不良行为该公司在一篇博客文章中表示:“我们正在投资于研究和工程,以减少ChatGPT在回应不同输入时存在的明显和微妙的偏见。在某些情况下,ChatGPT目前拒绝了它不应该拒绝的输出,在某些情况下,它不会在应该拒绝的时候拒绝。”OpenAI正在回应有关ChatGPT本身关于偏见、不准确和不当行为的报告,以及对微软(MSFT.US)和谷歌(GOOG.US)正在测试的基于聊天机器人的新搜索产品的更广泛批评。据报道,微软在周三的一篇博客文章中详细介绍了它了解到的基于OpenAI技术的新必应(Bing)聊天机器人的局限性,此外,谷歌已经要求员工花时间手动改进其Bard系统的答案。最后,总部位于旧金山的OpenAI还表示,该公司正在开发ChatGPT的更新,允许每个用户进行有限的定制,以适应他们的品味、风格和观点。OpenAI周四写道:“我们认为,人工智能应该是对个人有用的工具,因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。在这方面取得适当的平衡将是一个挑战,因为将定制化做到极致可能会使恶意使用我们的技术和阿谀奉承的人工智能,从而盲目地放大人们现有的信念。因此,系统行为总会有一些界限。”...PC版:https://www.cnbeta.com.tw/articles/soft/1344831.htm手机版:https://m.cnbeta.com.tw/view/1344831.htm

相关推荐

封面图片

OpenAI 正在测试 ChatGPT 记忆事物的能力

OpenAI正在测试ChatGPT记忆事物的能力人工智能初创公司OpenAI周二在一篇博客文章中表示,该公司正在测试一种选项,用户可以要求ChatGPT聊天机器人保留从一次交流到下一次交流的特定信息。ChatGPT还将能够自动确定应该记住用户对话中的哪些趣闻。OpenAI表示,该公司最初将向数十万免费和付费ChatGPT用户提供这些功能,并计划在更广泛地推广之前审查反馈。虽然为每个用户建立更详细的历史记录可能会产生新的隐私问题,但这也是互联网公司定制每个人的体验并锁定客户的有效方法。

封面图片

【OpenAI正在测试ChatGPT记忆信息的能力】

【OpenAI正在测试ChatGPT记忆信息的能力】2024年02月14日03点29分老不正经报道,人工智能初创公司OpenAI周二在一篇博客文章中表示,该公司正在测试一种选项,用户可以要求ChatGPT聊天机器人保留从一次交流到下一次交流的特定信息。ChatGPT还将能够自动确定应该记住用户对话中的哪些趣闻。OpenAI表示,该公司最初将向数十万免费和付费ChatGPT用户提供这些功能,并计划在更广泛地推广之前审查反馈。虽然为每个用户建立更详细的历史记录可能会产生新的隐私问题,但这也是互联网公司定制每个人的体验并锁定客户的有效方法。

封面图片

用户自定义ChatGPT?OpenAI:正在推进

用户自定义ChatGPT?OpenAI:正在推进“人工智能应该是对人类有益的工具,因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。将定制化做到极致有可能使我们的技术被恶意使用,并让ChatGPT成为无意识放大人们现有观点的阿谀奉承AI,所以ChatGPT的行为仍然会受到限制在这方面取得适当的平衡将是一个挑战。”因此,用户自定义总会有一些界限。例如,如果用户请求的内容有关于成人、暴力或包含仇恨的言论,人工审阅者会指示ChatGPT回答“我无法回答”。如果被问及一个有争议的话题,审稿人会允许ChatGPT回答这个问题,但同时会指出提出者和争议的观点,而不是试图“对这些复杂的话题提出正确的观点”,该公司在其软件指南摘录中解释说。科技公司如何为自定义ChatGPT设置护栏是人工智能公司重点关注的领域,目前仍在博弈。微软也表示,它会根据用户的反馈来改进Bing。其内部已经讨论让企业客户在与他们的聊天机器人交互之前显示自定义消息,类似于新的必应,它将显示一个欢迎屏幕,表明可以回答复杂的问题并提供信息。...PC版:https://www.cnbeta.com.tw/articles/soft/1344909.htm手机版:https://m.cnbeta.com.tw/view/1344909.htm

封面图片

OpenAI正在探索制造自己的人工智能芯片

OpenAI正在探索制造自己的人工智能芯片这些方案包括打造自己的AI芯片,与包括英伟达在内的其他芯片制造商更紧密地合作,以及在英伟达之外实现供应商多元化。OpenAI拒绝发表评论。公司首席执行官山姆-奥特曼(SamAltman)已将收购更多人工智能芯片作为公司的首要任务。他曾公开抱怨图形处理器稀缺,而这一市场由英伟达(NVIDIA)主导,英伟达控制着全球最适合运行人工智能应用的芯片市场80%以上的份额。奥特曼之所以努力获取更多芯片,是因为他发现了两大问题:为OpenAI的软件提供动力的先进处理器短缺,以及运行为其工作和产品提供动力的硬件所需的"令人瞠目"的成本。自2020年以来,OpenAI一直在一台大型超级计算机上开发其人工智能生成技术,这台超级计算机由其最大的支持者之一微软公司建造,使用了1万个英伟达(NVIDIA)图形处理器(GPU)。运行ChatGPT对公司来说非常昂贵。根据伯恩斯坦分析师斯泰西-拉斯冈(StacyRasgon)的分析,每次查询大约需要4美分。如果ChatGPT的查询量增长到Google搜索规模的十分之一,那么最初将需要价值约481亿美元的GPU,并且每年需要价值约160亿美元的芯片来维持运营。定制芯片时代努力开发自己的人工智能芯片将使OpenAI成为Alphabet旗下Google和亚马逊公司等少数大型科技公司中的一员,这些公司一直在寻求控制对其业务至关重要的芯片设计。目前尚不清楚OpenAI是否会推进制造定制芯片的计划。据业内资深人士称,这样做将是一项重大的战略举措,而且投资巨大,每年的成本可能高达数亿美元。即使OpenAI将资源投入到这项任务中,也不能保证成功。收购一家芯片公司可以加快OpenAI打造自有芯片的进程--就像亚马逊公司在2015年收购AnnapurnaLabs时所做的那样。据一位熟悉OpenAI计划的人士透露,OpenAI已经考虑过这条路,并对潜在的收购目标进行了尽职调查。目前尚无法得知OpenAI正在研究收购的公司的身份。即使OpenAI继续推进定制芯片计划(包括收购),这项工作也可能需要数年时间,在此期间,该公司将依赖于英伟达(NVIDIA)和AMD等商业供应商。一些大型科技公司多年来一直在制造自己的处理器,但成果有限。据路透社报道,Meta的定制芯片工作一直问题不断,这让该公司不再使用部分人工智能芯片。这家Facebook的所有者目前正在开发一种更新的芯片,它将涵盖所有类型的人工智能工作。据TheInformation报道,OpenAI的主要支持者微软也在开发一种定制的人工智能芯片,OpenAI正在对其进行测试。这些计划可能预示着两家公司的关系将进一步疏远。自去年推出ChatGPT以来,对专用AI芯片的需求激增。专用芯片或人工智能加速器是训练和运行最新生成式人工智能技术所必需的。英伟达是少数几家生产实用人工智能芯片的芯片制造商之一,在市场上占据主导地位。...PC版:https://www.cnbeta.com.tw/articles/soft/1388305.htm手机版:https://m.cnbeta.com.tw/view/1388305.htm

封面图片

OpenAI 正在测试 ChatGPT 的记忆能力

OpenAI正在测试ChatGPT的记忆能力当地时间2月13日,OpenAI公司宣布,正在测试ChatGPT的记忆能力。ChatGPT将记住用户在所有聊天中讨论过的事情,这可以避免重复信息,使未来的对话更有帮助。用户可以控制ChatGPT的记忆,可以明确告诉它记住某些东西,询问它记住了什么,也可以通过对话或设置告诉它忘记,还可以完全关闭记忆功能。OpenAI称,本周将向一小部分ChatGPT免费和Plus用户推出该功能。(界面新闻)

封面图片

OpenAI 推迟发布 ChatGPT 的语音助手功能

OpenAI推迟发布ChatGPT的语音助手功能OpenAI推迟发布备受期待的ChatGPT语音助手功能,以确保它能够安全有效地处理来自数百万用户的请求。该公司在5月份的产品发布会上为GPT-4o推出了语音选项。OpenAI表示,它原本打算在6月底向一小部分付费ChatGPTplus用户推出语音功能,但后来认为还需要一个月的时间才能“达到我们的标准”。“我们正在提高该模型检测和拒绝某些内容的能力,”该公司周二表示。此举意味着OpenAI可能遭遇挫折,该公司正努力在日益激烈的人工智能竞争中保持领先地位。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人