【Coinbase公布人工智能内容生成流程架构】

【Coinbase公布人工智能内容生成流程架构】2024年03月29日11点12分老不正经报道，Coinbase在官方博客公布其人工智能驱动的内容生成流程架构，主要包括：1、策展：数据驱动的精度，精心收集最新、最权威的数据，通过使用公共API获取关键元数据；2、摄取：细化和优化，完善和增强整理的数据；3、生成：与大语言模型一起制作内容；4、翻译：提升全球影响力和可及性；5、审查：确保人工智能生成材料符合质量标准；6、发布：将信息传递给用户。Coinbase表示，下一步将这项技术应用到更广泛的内容产品中，包括开发涵盖广泛链上主题的教育文章和全面的常见问题解答。

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

TikTok将自动标记人工智能生成的内容

TikTok将自动标记人工智能生成的内容访问：Saily-使用eSIM实现手机全球数据漫游安全可靠源自NordVPN该社交视频平台正在通过实施内容凭证（ContentCredentials）来实现这一目标，内容凭证是内容出处和真实性联盟（C2PA）的一项技术，该联盟由微软和Adobe共同创立。内容凭证将特定的元数据附加到内容上，TikTok可以利用这些元数据即时识别和标记人工智能生成的内容。因此，TikTok将开始自动标注上传到平台并附加内容证书的人工智能生成内容。这一变更将于本周四推出，并将在未来几周内适用于全球所有用户。虽然TikTok已经对使用TikTokAI特效制作的内容进行了标注，但现在它也将对在其他已实施内容证书的平台上制作的内容进行标注，如OpenAI的DALL-E3和微软的必应图像创建器。微软、Adobe和OpenAI已经开始使用内容证书，Google也承诺支持内容证书。尽管TikTok已经要求创作者在发布使用人工智能创建或增强的内容时进行披露，但该公司表示，新的变化是确保人工智能生成的内容被标注的另一种方式，同时也减轻了创作者的压力。在未来几个月中，TikTok还将开始为平台上使用TikTok人工智能特效创建的人工智能生成内容附加内容证书。内容证书元数据将包括人工智能生成内容的制作或编辑地点和方式的详细信息，下载后仍将附加在内容上。采用内容凭证的其他平台将能自动将内容标记为人工智能生成的内容。因此，虽然TikTok承诺在自己的服务中标注人工智能内容，但它也在努力帮助确保在TikTok中制作的人工智能内容在发布到其他平台时也能准确标注。TikTok运营及信任与安全主管AdamPresser在一份新闻稿中表示："人工智能生成的内容是一个令人难以置信的创意出口，但对观众而言，透明度至关重要。通过与同行合作跨平台标注内容，我们让创作者更容易负责任地探索人工智能生成的内容，同时继续阻止TikTok上禁止的有害或误导性AIGC。"TikTok宣称自己是第一个采用内容凭证技术的视频分享平台。值得一提的是，Meta早在今年二月就宣布，计划在C2PA的解决方案基础上为内容添加出处。作为周四公告的一部分，TikTok表示将致力于打击在选举中使用欺骗性人工智能的行为，其政策坚决禁止人工智能生成的有害误导性内容--无论是否贴有标签。...PC版：https://www.cnbeta.com.tw/articles/soft/1430275.htm手机版：https://m.cnbeta.com.tw/view/1430275.htm

Google将要求Android应用更好地控制人工智能生成的内容

Google将要求Android应用更好地控制人工智能生成的内容使用人工智能生成内容的应用程序必须在明年初添加一个按钮，用于标记或报告攻击性内容，这样才能继续在Google的PlayStore上架。Google希望举报过程尽可能简单，用户无需离开应用即可进行举报，这与目前已有的应用内举报系统类似。该公司表示，其人工智能生成内容政策涵盖人工智能聊天机器人、人工智能生成图片的应用程序，以及利用人工智能创建真人语音或视频内容的应用程序。托管人工智能生成内容的应用、仅使用人工智能总结书籍等资料的应用，以及将人工智能作为一项功能的生产力应用将不受新政约束。在Google看来，问题人工智能内容包括未经同意的深度伪造性材料、用于诈骗的真人录音、虚假或欺骗性的选举内容、"主要以满足性欲为目的"的人工智能生成应用程序以及恶意代码创建。Google在公告中承认，人工智能生成"是一个快速发展的应用程序类别"，给人的印象是，随着技术的不断发展，Google可能会重新审视其人工智能政策。除了有关人工智能生成内容的新规则外，Google还加强了PlayStore的照片和视频权限政策，限制应用程序访问数据的范围。该公司表示："用户设备上的照片和视频被视为用户的个人敏感数据，应该以最严格的隐私保护最佳实践来对待。这些敏感信息会使用户容易成为泄密者或被利用的目标，因此尽量减少这种访问有助于避免开发人员处理此类敏感数据的负担。"只有需要广泛访问照片和视频的应用程序才会继续获得一般权限，而使用媒体文件有限的应用程序则需要使用照片拾取器。...PC版：https://www.cnbeta.com.tw/articles/soft/1392279.htm手机版：https://m.cnbeta.com.tw/view/1392279.htm

TikTok 将自动标记更多人工智能生成内容

TikTok将自动标记更多人工智能生成内容TikTok正在加大力度在其应用中自动标记人工智能生成的内容，即使这些内容是使用第三方工具创建的。该公司宣布计划支持「内容凭证(contentcredentials)」，这是一种表明使用了生成式人工智能的数字水印。TikTok的规则已经要求创作者披露“逼真的”人工智能生成内容。但这项政策可能很难执行，特别是当创作者使用其他公司的人工智能工具时。但由于内容凭证在整个人工智能行业中越来越多地使用，TikTok的新自动化标签应该能够弥补其中的一些差距。TikTok称，该公司将是第一个支持内容凭证的视频平台。谷歌、微软、OpenAI和Adobe都承诺支持内容凭证。——、

英媒：中国拟收紧生成式人工智能服务内容审查

英媒：中国拟收紧生成式人工智能服务内容审查知情人士透露，中国政府计划加强对生成式人工智能生成内容的管制和审查。英国《金融时报》星期二（7月11日）引述两名知情人士报道，中国互联网信息办公室计划收紧今年4月份出台的人工智能监管法规草案，要求科技公司在对外发布生成式人工智能系统前，必须取得中国监管机构的批准。中国网信办今年4月公布的人工智能服务管理办法草案中，要求科技公司在对外发布产品后的10天内向中国政府注册。不过，拟议中的新规移除了这10天的缓冲期。报道称，中国政府收紧上述措施，旨在鼓励中国国内科技公司开发人工技术与控制生成内容审查之间取得平衡。上述新规最快会在本月内纳入条例草案中。一名接近中国网信办的知情人士称，如果中国政府希望对人工智能系统生成的内容有完全的控制权，就将要求所有科技公司在对外发布产品前，先获得中国当局的批准。但这名知情人士也说，监管措施必须避免扼杀人工智能领域的技术发展，因此中国政府对此仍“摇摆不定”。根据中国网信办今年4月公布的条例草案，生成式人工智能服务的生成内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一、宣扬恐怖极端主义、民族仇恨、可能扰乱经济及社会秩序等内容。草案也规定企业须确保内容真实准确，采取措施防止生成虚假信息；禁止非法获取、披露、利用个人信息和隐私和商业秘密。用户方则须依法提供真实身份信息等。