AI并不“万能”：ChatGPT给出癌症治疗方案被指漏洞百出

AI并不“万能”：ChatGPT给出癌症治疗方案被指漏洞百出更致命的是，这些错误信息被ChatGPT与正确信息混杂在一起，导致用户难以分辨到底哪些信息是准确可靠的。参与该研究的DanielleBitterman博士称，ChatGPT回答中，错误信息与正确信息的混合程度相当高，已经达到了专家也难以发现问题的程度。事实上，此前就曾有大量消息指出，目前的ChatGPT，或其他生成式人工智能，仍然存在给出强误导性、或是完全错误信息的情况。对此，以OpenAI为首的人工智能研发团队已经表示，将在后续的开发中提高AI回答的可靠性，避免这样类似“幻觉”情况的出现。此外，OpenAI已经在使用条款中警告用户，模型并非是为提供医疗信息设计，也不应该被用于为严重的医疗状况提供诊断或治疗服务。...PC版：https://www.cnbeta.com.tw/articles/soft/1379819.htm手机版：https://m.cnbeta.com.tw/view/1379819.htm

相关推荐

封面图片

研究表明ChatGPT在回答编程问题时错误百出，并且错误很容易被忽略

研究表明ChatGPT在回答编程问题时错误百出，并且错误很容易被忽略在研究中，研究人员查看了StackOverflow中的517个问题，并分析了ChatGPT对这些问题的回答尝试。研究人员表示：“我们发现52%的ChatGPT答案包含错误信息，77%的答案比人类的答案更冗长。”尤其令人不安的是，许多人类程序员似乎更喜欢ChatGPT的答案。普渡大学的研究人员对12名程序员进行了调查——诚然，样本量很小——发现他们中39%的人没有发现人工智能产生的错误。研究人员写道：“礼貌的语言、清晰的教科书式的回答以及全面性是使ChatGPT答案看起来更令人信服的部分主要原因，这让用户放松了警惕，忽略了ChatGPT答案中的一些错误信息。”——
封面图片

因提供错误信息，ChatGPT 在奥地利遭投诉

因提供错误信息，ChatGPT在奥地利遭投诉奥地利非营利组织欧洲数字版权中心（NOYB）4月29日声明称，欧盟《通用数据保护条例》（GDPR）要求有关个人的信息必须准确无误，并且个人可以完全访问所存储的信息以及有关信息来源。但OpenAI公开承认无法更正ChatGPT上的错误信息。此外，该公司也无法说明数据的来源，以及ChatGPT存储了哪些关于个人的数据。因此，欧洲数字版权中心向奥地利数据保护机构DPA投诉OpenAI。（界面新闻）
封面图片

Google AI Overviews功能输出答案漏洞百出 维护方式竟然是手动删除

GoogleAIOverviews功能输出答案漏洞百出维护方式竟然是手动删除Google还表示，其AIOverview产品主要向用户输出“高质量信息”。Google发言人梅根·法恩斯沃斯在一封电子邮件中说:“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法复制的例子。”此前，AI概览功能曾建议用户“在披萨上涂胶水”或是“吃石头”，甚至在关于前总统奥巴马的问题上，AI概览给出了“巴拉克·侯赛因·奥巴马被认为是美国第一位穆斯林总统”这个存在明显事实错误的答案。AI概览给出的与事实不符的答案这样的情况并非首次出现，2022年，Meta发布了一款名为Galactica的人工智能系统，该系统在发布后不久就不得不被撤下，因为该系统在回答中让人去吃玻璃。Google公司曾以先进的科技产品得到业界的一致好评，然而最近Google的表现却令人感到失望，一位不愿透露姓名的人工智能创始人表示:“一家曾经以走在最前沿、生产高质量产品而闻名的公司，现在却以低质量的产品而闻名，而且还被人发布在网上嘲笑。”事实上，Google目前的的处境很艰难。在Google之前，Bing就大举进军人工智能领域，OpenAI也在开发自己的搜索引擎，而只想要获得最佳体验的年轻一代用户正在转向TikTok。这些都给了Google很大的竞争的压力。相关文章:Google的AI搜索功能向用户建议使用胶水让奶酪粘在披萨上Google的AI概览被发现很糟糕：建议人们每天应该吃一块石头...PC版：https://www.cnbeta.com.tw/articles/soft/1432262.htm手机版：https://m.cnbeta.com.tw/view/1432262.htm
封面图片

微软将推出AI版必应搜索 采用ChatGPT爆红技术

微软将推出AI版必应搜索采用ChatGPT爆红技术微软这项新功能可能在3月底前推出，该公司希望它借此击败规模比它大得多的搜索竞争对手谷歌。微软尚未置评，OpenAI不予置评。微软去年在一篇博客文章中表示，它计划将OpenAI的图像生成软件DALL-E2集成到必应中。2019年，微软向OpenAI投资了10亿美元，两家公司已经建立了多年的合作伙伴关系，在微软的Azure云计算服务上开发AI超级计算技术。去年11月30日，OpenAI推出了ChatGPT聊天机器人，供公众免费测试。这款聊天机器人是一款软件应用程序，旨在根据用户提示模仿类似人类的对话，并且可以在模仿人类说话风格的同时回答大量问题。面对ChatGPT的爆红，谷歌AI主管杰夫·迪恩(JeffDean)在上月表示，该公司的产品具备了类似对话能力，但提供错误信息会让公司面临大得多的“声誉风险”，所以他们的步伐要比小型创业公司更保守。...PC版：https://www.cnbeta.com.tw/articles/soft/1337415.htm手机版：https://m.cnbeta.com.tw/view/1337415.htm
封面图片

欧洲数字版权中心投诉 OpenAI 旗下 ChatGPT 提供虚假信息

欧洲数字版权中心投诉OpenAI旗下ChatGPT提供虚假信息4月29日消息，奥地利非营利组织欧洲数字版权中心（Noyb）于4月29日发起投诉，指控OpenAI未修复其生成式AI聊天机器人ChatGPT提供的虚假信息，投诉称OpenAI可能违反了欧盟的隐私规则。根据该组织的说法，此案的投诉人是一位未透露姓名的公众人物，他向OpenAI的聊天机器人询问有关自己的信息，但一直得到错误信息。OpenAI拒绝了该公众人物更正或删除数据的请求，称“这是不可能的”。同时，该公司也拒绝透露其训练数据的信息以及数据来源。
封面图片

YouTube 开始大规模删除宣传“有害或无效”癌症治疗方法的视频

YouTube开始大规模删除宣传“有害或无效”癌症治疗方法的视频YouTube今天宣布，将删除宣传“已被证明有害或无效的癌症治疗”或“阻止观看者寻求专业医疗”的内容。这项执法措施是因为YouTube正试图根据其在应对有关covid-19、疫苗和生殖健康等主题的虚假信息方面所学到的经验，来简化其医疗审查准则。展望未来，YouTube表示，当存在较高的公共卫生风险、卫生当局公开提供指导以及某个主题容易出现错误信息时，它将应用其医疗错误信息政策。YouTube希望这一政策框架足够灵活，能够涵盖广泛的医学主题，同时在尽量减少伤害和允许辩论之间找到平衡。在其博文中YouTube表示，它将对那些有害的治疗方法以及那些未经证实的治疗方法采取行动。例如，视频不能鼓励用户服用维生素C补充剂来替代放射治疗。根据其医疗错误信息政策，该平台还对被视为有害的其他视频采取了行动，包括那些包含“不安全堕胎方法说明”或宣传“有关堕胎安全的虚假主张”的视频。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人