谷歌也担心泄密风险 警告员工谨慎使用AI办公

谷歌也担心泄密风险警告员工谨慎使用AI办公人们在使用这些聊天机器人的时候，会与其进行对话。一方面，人类评审员可能会阅读这些聊天记录；另一方面，研究人员发现，人工智能可以吸收并复制相关对话数据给其他人，从而产生信息泄漏风险。而谷歌对此回应称，其聊天机器人Bard可以生成一些不受欢迎的代码建议，但它仍然对IT工程师们会有所帮助。谷歌还表示，其目标是对人工智能技术保持足够的透明度。这些担忧表明，谷歌希望避免人工智能对公司的商业化运作造成损害，这种谨慎的态度也体现出企业对人工智能的使用限制，正越发成为某种具有共性的企业安全标准。在此之前，包括三星、亚马逊、德意志银行等大型企业都对员工使用人工智能设置了一定的“护栏”，以确保不会对公司运营造成风险。根据社交网站Fishbowl对12000名受访者的调查，截至今年1月，约43%的专业人士在工作中使用了ChatGPT或其他人工智能工具，而且通常都没有告诉他们的老板。谷歌告诉媒体，它已经与爱尔兰数据保护委员会进行了详细的对话，并正在解决监管机构的问题。谷歌在6月1日更新的隐私声明也指出：“不要在与Bard的对话中包含机密或敏感信息。”一些公司已经开发了软件来解决这些问题。例如，保护网站免受网络攻击并提供云服务的Cloudflare正在推广一种功能，可以让企业对某些数据进行标记，并限制其向外部流动。谷歌和微软也在向企业客户提供对话工具，这些工具的价格更高，但不会将数据吸收到公共人工智能模型中。Bard和ChatGPT的默认设置是保存用户的历史对话记录，用户也可以选择删除。微软消费者业务首席营销官YusufMehdi曾表示，公司不希望员工使用公共聊天机器人工作是“有道理的”。Cloudflare首席执行官MatthewPrince指出，在聊天机器人中输入机密信息，就像“让一群博士生随意查看你所有的私人记录”。...PC版：https://www.cnbeta.com.tw/articles/soft/1365541.htm手机版：https://m.cnbeta.com.tw/view/1365541.htm

谷歌CEO警告聊天机器人Bard公测“可能出问题” 用户反馈至关重要

谷歌CEO警告聊天机器人Bard公测“可能出问题”用户反馈至关重要经过了几个月的期待后，谷歌于当地时间周二早间将Bard作为一项“实验”推出。这款产品基于谷歌的LAMDA（对话应用语言模型）开发，可以对复杂的开放式问题做出聊天式响应，例如：“给我一些建议，帮我女儿学会飞蝇钓法。”这一消息发布后，Alphabet股价当天盘中上涨近4%。谷歌在产品免责声明中警告称，Bard可能犯错，或者“给出不准确或不适当的回应”。这封最新的内部邮件正值谷歌试图追赶生成式人工智能技术在过去几个月的快速进步之际，尤其是微软支持的OpenAI及其ChatGPT的快速进步。Bard最初于今年1月发布，但谷歌却因此遭到员工和投资者的批评，因为这似乎是在微软宣布将ChatGPT整合到必应搜索之后而做出的匆忙应对。在最近的全体员工大会上，对Bard的困惑成为员工们最关心的问题之一。高管们在会议上对Bard进行了辩护，称其是一次实验，并试图将聊天机器人与其核心搜索产品区分开来。皮查伊还在邮件中表示，在他上月呼吁全体员工测试Bard，并重写这款聊天机器人的糟糕答案后，共有8万谷歌员工参与进来。他指出，该公司正在努力进行负责任的测试，并要求1万名“来自不同背景和视角”的可信测试人员。皮查伊还表示，员工“应当对这项工作以及引领我们实现目前成就的科技突破感到骄傲，包括我们2017年进行的Transformer研究以及PalM和BERT等基础模型。”“如今，能看到Bard在它的用户中激发了更多创造力和好奇心，令我十分振奋。”他还期待着在5月的年度开发者大会上分享“我们在人工智能领域的广泛进步”。以下为皮查伊邮件全文：大家好上周对人工智能而言意义重大，我们围绕云、Developer和Workspace宣布了许多消息。随着我们扩大Bard的测试范围（它在2月首次发布），本周还将有更多消息宣布。从今天起，美国和英国的人们将会注册bard.google.com。这只是第一步，我们将继续面向更多国家和语言推出这项服务。我很感激Bard团队。过去几周，他们在Bard上花费的时间可能超过在任何事情和任何人身上花费的时间。也非常感谢参与测试Bard的8万名谷歌员工。我们应当对这项工作以及引领我们实现目前成就的科技突破感到骄傲，包括我们2017年进行的Transformer研究以及PalM和BERT等基础模型。即便实现这些进步，人工智能的漫长旅程依然刚刚开始。随着越来越多的人开始使用Bard并测试它的功能，他们可能会让我们意外，还有可能出问题。但用户反馈对于改进产品及其底层技术至关重要。我们采取了负责任的测试方法，包括邀请1万名来自不同背景和视角的可信测试员，我们也将继续欢迎即将获得的所有反馈。我们将从中吸取经验教训，不断迭代和改进产品。如今，能看到Bard在它的用户中激发了更多创造力和好奇心，令我十分振奋。随着5月的I/O开发者大会临近，我期待着分享我们在人工智能领域的广泛进步，为个人、企业和社区提供助力。——桑达尔...PC版：https://www.cnbeta.com.tw/articles/soft/1350541.htm手机版：https://m.cnbeta.com.tw/view/1350541.htm

与ChatGPT正面对决：Google CEO要求所有员工参与Bard测试

与ChatGPT正面对决：GoogleCEO要求所有员工参与Bard测试这份内部备忘录是在皮查伊公开宣布谷歌的新对话技术后不久发布的，该技术由人工智能驱动，并且将在未来几周开始推广。谷歌面临着来自投资者和员工的压力，要与微软支持的OpenAI的聊天机器人ChatGPT进行竞争，后者在去年年底推出时引起了公众的强烈关注。皮查伊在发给员工的电子邮件中写道：“下周开始，我们将征集每一位谷歌人来帮忙塑造Bard，并通过全公司范围内的特别Dogfood测试做出贡献。”Dogfood是谷歌公司内部使用的一个术语，指的是一种包括在推出自己的产品之前使用自己的产品的做法。他还表示：“我们期待着得到你们所有的反馈，本着内部黑客马拉松的精神，更多的细节即将到来。”皮查伊还在发给员工的说明中表示，搜索业务负责人普拉巴卡尔·拉加万（PrabhakarRaghavan)将在本周晚些时候在巴黎举行的活动中“分享进展”。在这份内部说明发布后不久，皮查伊在一篇博文中对公众表示，Bard的提问回应将需要经过严格的测试，以便它们符合“质量、安全和现实世界信息基础的高标准”。上周，有报道称，这家由Alphabet控股的公司正在征集员工优先考虑几个人工智能项目，作为应对人工智能竞争的“红色代码”努力的一部分，其中包括一个代号为“ApprenticeBard”的聊天机器人和新的搜索功能。这两个项目都得到了该公司周一博客文章的证实。据悉，微软正在计划推出自己的搜索引擎Bing的新版本，该版本将使用ChatGPT来回答用户的搜索查询。微软将在本周二举行自己的活动，OpenAI首席执行官山姆·阿尔特曼（SamAltman）将参加本次活动。皮查伊在周一发给员工的说明中写道：“现在这项技术还很年轻，我们需要上线和迭代，我们还有很多艰苦和令人兴奋的工作要做，以便将这些技术纳入我们的产品，并继续将谷歌人工智能的优点用于改善人们的生活。我们一直在以一种紧张和专注的态度对待这项工作，这让我想起了早期的谷歌，所以我想要感谢所有做出了贡献的人。”皮查伊还谈到了让外界通过API使用相同的底层技术，即对话应用的语言模型，或称LAMDA，来构建自己的应用程序和产品。皮查伊在这封电子邮件中表示：“下个月，我们将开始接纳个人开发者、创作者和企业，尝试最初由LaMDA提供的生成语言API（应用程序编程接口），并将有一系列的模式可供选择。随着时间的推移，我们的目标是创建一套工具和API，使其他人能够轻松地用人工智能建立更多的创新应用。”目前，谷歌发言人没有立即回应置评请求。...PC版：https://www.cnbeta.com.tw/articles/soft/1342963.htm手机版：https://m.cnbeta.com.tw/view/1342963.htm

为确保 Bard 能给出高质量答案，谷歌员工对其进行单条式的评估、修正训练.

为确保Bard能给出高质量答案，谷歌员工对其进行单条式的评估、修正训练.不久前，谷歌在内部发起了代号为“斗狗”的活动，要求公司所有员工每周用两到四个小时帮助测试和改进其新的人工智能搜索聊天机器人Bard。就在Bard发布前不久，微软也刚刚发布了采用ChatGPT聊天机器人背后技术的新版必应搜索引擎，它允许用户就几乎任何话题进行多轮对话。然而，在Bard被发现提供了一个错误的答案后，对于谷歌的质疑也逐渐浮现。同样，随着越来越多的人测试了新必应，他们的聊天机器人也遇到了问题，比如其倾向于好斗的行为。像Bard和ChatGPT这样的AI聊天机器人，可以通过接受人类编写的文本训练来模仿人类对话，这就解释了为什么必应的回复有时候看起来有些情绪化和不可预测。毕竟，被训练得像人一样的机器人也很容易犯下人类的错误。这些聊天机器人最初通过摄取大量的训练数据来完成大部分学习。此外，Bard项目的产品主管杰克・克劳奇克(JackKrawczyk)在一份备忘录中告诉员工，谷歌的研究发现，为用户查询添加高质量的响应“显著”提高了其AI模型的质量。来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

谷歌顶级AI专家加入OpenAI 曾警告不要用ChatGPT数据训练Bard

谷歌顶级AI专家加入OpenAI曾警告不要用ChatGPT数据训练Bard谷歌发言人则表示，“训练Bard没有用过任何来自ShareGPT或ChatGPT的数据。”据悉，用户可以在ShareGPT这个平台上发布他们与聊天机器人ChatGPT所交流的信息。报道称，德弗林曾告诉谷歌高管们，他认为开发Bard的团队使用了来自ShareGPT平台的信息。德弗林警告高管们，用用户与ChatGPT对话进行训练的话，可能会让Bard和ChatGPT太过相似。据报道，德弗林以及谷歌其他员工还认为这种做法违反了OpenAI的服务条款。消息人士表示，在德弗林就这个问题对谷歌高管发出警告后，谷歌就停止使用这些数据来训练Bard。据悉，今年1月份德弗林离开谷歌后不久，就加入了竞争对手OpenAI麾下。此前有报道称，德弗林是今年年初离开谷歌加入竞争对手的几名人工智能顶级研究人员之一。德弗林在谷歌工作了五年多时间。2018年他作为主要作者发布了一篇关于训练机器学习模型以提高搜索精度的研究论文，在一定程度上推动了人工智能的研究热潮。据报道，德弗林的研究成果已经成为谷歌和OpenAI语言模型的组成部分。多年来，OpenAI聘请了几十名来自谷歌母公司Alphabet的员工。去年11月份，OpenAI因公开发布能撰写文章还能自动编程的ChatGPT而爆火，此后谷歌和OpenAI就在人工智能领域展开激烈竞争。本月早些时候，谷歌向部分美国和英国用户发布了Bard。但是谷歌想要赶超OpenAI的步伐并没有停止。有报道称，为了能和OpenAI竞争，隶属于Alphabet旗下的两个人工智能团队DeepMind和谷歌大脑（GoogleBrain）已经联手。（辰辰）...PC版：https://www.cnbeta.com.tw/articles/soft/1352121.htm手机版：https://m.cnbeta.com.tw/view/1352121.htm

【谷歌宣布推出人工智能机器人Bard 与ChatGPT展开竞争】

【谷歌宣布推出人工智能机器人Bard与ChatGPT展开竞争】2023年03月21日11点54分老不正经报道，据英国金融时报报道，谷歌宣布推出AI聊天机器人Bard，以试图与OpenAI的ChatGPT展开竞争。该公司正寻求在生成人工智能技术商业化的竞赛中收复失地。谷歌表示，Bard将只生成英语答案，而不是计算机代码或其他语言的答案，并将以先到先得的方式向在美国和英国的等候名单上注册的用户提供访问权限。