美国热门新闻应用被指控利用人工智能编造虚假

美国热门新闻应用被指控利用人工智能编造虚假新闻美国流行的免费新闻应用NewsBreak自2021年以来一直在发布由人工智能编写的虚构故事。该应用发布来自CNN、美联社和路透社等合法新闻来源的授权内容，但也使用人工智能工具改写新闻稿和本地新闻。最令人震惊的虚假新闻案例之一是去年圣诞节前夕发布的。该应用的报道声称新泽西州布里奇顿发生了枪击事件，但实际上并没有发生过这样的事件。新泽西州警察局驳斥了文章中的说法，随后该应用在四天后将其撤下，并称该信息来自另一个网站。1月、2月和3月，科罗拉多州的一家食品银行表示，由于NewsBreak发布了错误的食品分发时间，因此不得不拒绝人们。当抱怨报道不准确时，也没有收到该公司的回应。——、、

浙江警方侦破利用ChatGPT制作虚假视频案

浙江警方侦破利用ChatGPT制作虚假视频案随着人工智能（AI）技术发展，中国近期出现多起利用AI传播假新闻或进行诈骗的案件。浙江绍兴警方星期二（7月4日）通报，破获一起利用ChatGPT技术制作虚假视频的案件。据澎湃新闻报道，绍兴警方介绍，警方6月初在网上巡查时，发现有网民发布关于“上虞工业园区发生火灾”的视频，且在短时间内浏览量迅速攀升。警方介入核实后，确认视频为不实信息，随后锁定外省某科技公司有较大作案嫌疑，并抓获三名犯罪嫌疑人。警方调查发现，该公司5月以来从网上非法收购一批视频账号，利用ChatGPT技术，根据中文自动搜索到网上相应视频，并且完成文字与视频的拼接。犯罪嫌疑人将虚假视频发布到网络博取流量，并通过流量算法返款盈利。截至目前，该团伙非法购买视频账号1500余个，发布未经核实视频3000个以上。报道称，目前三名嫌疑人已因寻衅滋事罪被警方采取刑事强制措施，案件正在进一步侦办中。