北京将加强互联网诊疗监管：严禁使用 AI 自动生成处方

北京将加强互联网诊疗监管：严禁使用 AI 自动生成处方 北京市卫健委日前牵头组织制定了《北京市互联网诊疗监管实施办法（试行）》，并向社会公开征求意见，公众可于9月16日前向市卫健委反馈意见。 根据办法：医疗机构开展互联网诊疗活动要加强药品管理，严禁使用人工智能等自动生成处方，严禁在处方开具前向患者提供药品。 互联网诊疗实行实名制，医疗机构应当告知患者，其有义务向医疗机构提供真实的身份证明及基本信息，不得假冒他人就诊。患者就诊时应当提供具有明确诊断的病历资料，如门诊病历、住院病历、出院小结、诊断证明等，由接诊医师留存相关资料，并判断是否符合复诊条件。 医疗机构应当明确互联网诊疗的终止条件，当患者病情出现变化、本次就诊经医师判断为首诊或存在其他不适宜互联网诊疗的情况时，接诊医师应当立即终止互联网诊疗活动，并引导患者到实体医疗机构就诊。互联网诊疗病历记录按照门诊电子病历的有关规定进行管理，保存时间不得少于15年。诊疗中的图文对话、音视频资料等过程记录保存时间不得少于3年。 消息来源:北京日报

人工智能垃圾开始污染互联网

人工智能垃圾开始污染互联网 5 月初，新闻网站评级公司 NewsGuard 发现 49 个假新闻网站使用人工智能生成内容。该公司联合创始人 戈登·克罗维茨 表示，截至 6 月底，这一数字已达到 277 个。“这个数字正在呈指数级增长，”克罗维茨说。并表示，这些网站的创建似乎是为了通过Google展示广告网络赚钱。 研究人员还指出，人工智能技术有可能被用于制造政治虚假信息和用于黑客攻击的定向信息。网络安全公司Zscaler表示，现在判断人工智能是否被犯罪分子广泛使用还为时过早，但该公司预计人工智能将被用来创建高质量的的假冒钓鱼网页，这些网页旨在诱骗受害者下载恶意软件软件或泄露他们的用户名和密码。 在YouTube上，ChatGPT淘金热正如火如荼地进行着。数十个提供如何利用OpenAI技术赚钱的建议的视频已被观看了数十万次。其中许多视频提出了涉及垃圾内容的可疑计划。有些视频告诉观众，他们每周可以赚到数千美元，敦促他们编写电子书或在博客上出售广告，这些博客上充斥着人工智能生成的内容，然后可以通过在谷歌搜索中弹出广告来获得广告收入。 《Clarkesworld》杂志的出版商 Neil Clarke 表示，今年早些时候，该杂志不得不暂时停止接受在线投稿，因为数百个人工智能生成的故事让该杂志不堪重负。Clarke 表示， 提交内容是由在线视频推动的，这些视频建议人们使用 ChatGPT 创建内容并向 Clarkesworld 投稿。 如果互联网上越来越多地充斥着人工智能生成的内容，这可能会成为人工智能公司本身的问题。这是因为它们的大型语言模型在公共数据集上进行自我训练。随着这些数据集越来越多地充满人工智能生成的内容，研究人员担心语言模型将变得不那么有用，这种现象被称为“模型崩溃”。 来源：

Google研究人员发表论文探讨人工智能如何毁掉互联网

Google研究人员发表论文探讨人工智能如何毁掉互联网 研究发现，绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限，在互联网上发布虚假或篡改的人工智能内容，例如图片或视频。研究人员还仔细研究了之前发表的关于生成式人工智能的研究，以及大约 200 篇报道生成式人工智能滥用的新闻文章。研究人员总结道：操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段。其中大多数都带有明显的意图，即影响舆论、进行诈骗或欺诈活动或牟利。使问题更加复杂的是，生成式人工智能系统日益先进且随时可用研究人员表示，只需要极少的技术专长，而这种情况正在扭曲人们对社会政治现实或科学共识的集体理解。据我们所知，这篇论文遗漏了什么？有没有提到谷歌自己在使用该技术时犯下的令人尴尬的错误 作为世界上最大的公司之一，谷歌的错误有时规模巨大。如果你读过这篇论文，你就会忍不住得出这样的结论：生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容，因为它非常擅长完成这项任务，结果导致互联网上充斥着人工智能垃圾。而这种情况正是谷歌自己促成的，它允许这些虚假内容泛滥，甚至是虚假内容的源头，无论是虚假图片还是虚假信息。研究人员表示，这一混乱局面也考验着人们辨别真假的能力。他们写道：同样，大量生产低质量、垃圾邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度，并使用户的验证任务负担过重。令人不寒而栗的是，由于我们被虚假的人工智能内容淹没，研究人员表示，有些情况下知名人士能够将不利的证据解释为人工智能生成的，从而以昂贵且低效的方式转移举证责任。随着谷歌等公司继续将人工智能融入到每一款产品中，我们将会看到更多这样的情况。了解更多： ... PC版： 手机版：