谷歌也担心泄密风险 警告员工谨慎使用AI办公

谷歌也担心泄密风险警告员工谨慎使用AI办公人们在使用这些聊天机器人的时候,会与其进行对话。一方面,人类评审员可能会阅读这些聊天记录;另一方面,研究人员发现,人工智能可以吸收并复制相关对话数据给其他人,从而产生信息泄漏风险。而谷歌对此回应称,其聊天机器人Bard可以生成一些不受欢迎的代码建议,但它仍然对IT工程师们会有所帮助。谷歌还表示,其目标是对人工智能技术保持足够的透明度。这些担忧表明,谷歌希望避免人工智能对公司的商业化运作造成损害,这种谨慎的态度也体现出企业对人工智能的使用限制,正越发成为某种具有共性的企业安全标准。在此之前,包括三星、亚马逊、德意志银行等大型企业都对员工使用人工智能设置了一定的“护栏”,以确保不会对公司运营造成风险。根据社交网站Fishbowl对12000名受访者的调查,截至今年1月,约43%的专业人士在工作中使用了ChatGPT或其他人工智能工具,而且通常都没有告诉他们的老板。谷歌告诉媒体,它已经与爱尔兰数据保护委员会进行了详细的对话,并正在解决监管机构的问题。谷歌在6月1日更新的隐私声明也指出:“不要在与Bard的对话中包含机密或敏感信息。”一些公司已经开发了软件来解决这些问题。例如,保护网站免受网络攻击并提供云服务的Cloudflare正在推广一种功能,可以让企业对某些数据进行标记,并限制其向外部流动。谷歌和微软也在向企业客户提供对话工具,这些工具的价格更高,但不会将数据吸收到公共人工智能模型中。Bard和ChatGPT的默认设置是保存用户的历史对话记录,用户也可以选择删除。微软消费者业务首席营销官YusufMehdi曾表示,公司不希望员工使用公共聊天机器人工作是“有道理的”。Cloudflare首席执行官MatthewPrince指出,在聊天机器人中输入机密信息,就像“让一群博士生随意查看你所有的私人记录”。...PC版:https://www.cnbeta.com.tw/articles/soft/1365541.htm手机版:https://m.cnbeta.com.tw/view/1365541.htm

相关推荐

封面图片

【谷歌向部分机构有限开放其Gemini AI产品】

【谷歌向部分机构有限开放其GeminiAI产品】2023年09月16日07点44分老不正经报道,谷歌已授予其即将推出的对话式人工智能产品的部分访问权限。谷歌预计将通过GoogleCloudVertexAI提供在线门户Gemini,为开发人员提供了访问人工智能模型和其他工具的机会。谷歌最初于2023年5月发布了Gemini。尽管该模型仍在训练中,但它表示,它看到了多模式能力,这意味着Gemini有能力处理不同类型的输入。谷歌还通过Bard向消费者提供人工智能服务,Bard是一个主要用于生成书面内容的人工智能聊天机器人。该公司目前可用的人工智能模型PaLM2是Bard和某些其他服务的基础。

封面图片

谷歌顶级AI专家加入OpenAI 曾警告不要用ChatGPT数据训练Bard

谷歌顶级AI专家加入OpenAI曾警告不要用ChatGPT数据训练Bard谷歌发言人则表示,“训练Bard没有用过任何来自ShareGPT或ChatGPT的数据。”据悉,用户可以在ShareGPT这个平台上发布他们与聊天机器人ChatGPT所交流的信息。报道称,德弗林曾告诉谷歌高管们,他认为开发Bard的团队使用了来自ShareGPT平台的信息。德弗林警告高管们,用用户与ChatGPT对话进行训练的话,可能会让Bard和ChatGPT太过相似。据报道,德弗林以及谷歌其他员工还认为这种做法违反了OpenAI的服务条款。消息人士表示,在德弗林就这个问题对谷歌高管发出警告后,谷歌就停止使用这些数据来训练Bard。据悉,今年1月份德弗林离开谷歌后不久,就加入了竞争对手OpenAI麾下。此前有报道称,德弗林是今年年初离开谷歌加入竞争对手的几名人工智能顶级研究人员之一。德弗林在谷歌工作了五年多时间。2018年他作为主要作者发布了一篇关于训练机器学习模型以提高搜索精度的研究论文,在一定程度上推动了人工智能的研究热潮。据报道,德弗林的研究成果已经成为谷歌和OpenAI语言模型的组成部分。多年来,OpenAI聘请了几十名来自谷歌母公司Alphabet的员工。去年11月份,OpenAI因公开发布能撰写文章还能自动编程的ChatGPT而爆火,此后谷歌和OpenAI就在人工智能领域展开激烈竞争。本月早些时候,谷歌向部分美国和英国用户发布了Bard。但是谷歌想要赶超OpenAI的步伐并没有停止。有报道称,为了能和OpenAI竞争,隶属于Alphabet旗下的两个人工智能团队DeepMind和谷歌大脑(GoogleBrain)已经联手。(辰辰)...PC版:https://www.cnbeta.com.tw/articles/soft/1352121.htm手机版:https://m.cnbeta.com.tw/view/1352121.htm

封面图片

谷歌更新AI聊天机器人Bard,取消等待名单

谷歌更新AI聊天机器人Bard,取消等待名单今日,谷歌还发布了最新的PaLM2人工智能(AI)语言模型。而Bard正在使用PaLM2,可以显著提高回答的准确度和可用性。谷歌称,升级后的Bard特别擅长处理编码查询,包括调试和解释20多种语言的代码块。不仅可以提供来源,还可以解释某个代码块。此外,谷歌还表示,Bard将来还会支持由Adobe支持的人工智能图像生成,以及与第三方Web服务整合,如Instacart和OpenTable等。...PC版:https://www.cnbeta.com.tw/articles/soft/1359061.htm手机版:https://m.cnbeta.com.tw/view/1359061.htm

封面图片

谷歌生成式人工智能聊天机器人 Bard 日语版使用排名揭晓 “搜索”居首

谷歌生成式人工智能聊天机器人Bard日语版使用排名揭晓“搜索”居首谷歌日本公布了今年5月开始提供日语的生成式人工智能聊天机器人“Bard”使用方式相关排名。结果显示位列第一的是“事实相关搜索”,广泛用于寻找生活与工作上答案的信息收集。Bard的机制是在搜索窗口输入问题或指令后会显示答案。谷歌基于5月10日至11月15日用日语输入的提问进行了统计。第二名是经济、最新技术、历史、文学等“专业话题咨询”,用于查找学习方法、说明方式等。第三至第五位依次是“编程”、“翻译”和“文本编辑”。第六至第十位依次是“聊天”、“获得新视角”、“总结要点”、“查找单词”和“完成语句”。据谷歌介绍,使用Bard收集信息时如果在说明中加入自己提问的背景、目的、状况等内容,则容易得到有效回答。若就同一主题反复提问,则能得到深入的回答。——

封面图片

谷歌人工智能聊天机器人 Gemini 即将提供针对 Workspace 客户的企业级数据保护

谷歌人工智能聊天机器人Gemini即将提供针对Workspace客户的企业级数据保护谷歌人工智能聊天机器人Gemini即将推出针对企业用户的GeminiBusiness和GeminiEnterprise套餐,让Workspace客户能够使用谷歌最强大的人工智能之一Gemini1.0Ultra和企业级数据保护。管理员可以通过管理控制台管理Gemini设置。新套餐将在150多个国家和地区提供英语版本并进行了优化。企业套餐的对话不会用于训练Gemini模型。——

封面图片

为确保 Bard 能给出高质量答案,谷歌员工对其进行单条式的评估、修正训练.

为确保Bard能给出高质量答案,谷歌员工对其进行单条式的评估、修正训练.不久前,谷歌在内部发起了代号为“斗狗”的活动,要求公司所有员工每周用两到四个小时帮助测试和改进其新的人工智能搜索聊天机器人Bard。就在Bard发布前不久,微软也刚刚发布了采用ChatGPT聊天机器人背后技术的新版必应搜索引擎,它允许用户就几乎任何话题进行多轮对话。然而,在Bard被发现提供了一个错误的答案后,对于谷歌的质疑也逐渐浮现。同样,随着越来越多的人测试了新必应,他们的聊天机器人也遇到了问题,比如其倾向于好斗的行为。像Bard和ChatGPT这样的AI聊天机器人,可以通过接受人类编写的文本训练来模仿人类对话,这就解释了为什么必应的回复有时候看起来有些情绪化和不可预测。毕竟,被训练得像人一样的机器人也很容易犯下人类的错误。这些聊天机器人最初通过摄取大量的训练数据来完成大部分学习。此外,Bard项目的产品主管杰克・克劳奇克(JackKrawczyk)在一份备忘录中告诉员工,谷歌的研究发现,为用户查询添加高质量的响应“显著”提高了其AI模型的质量。来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人