OpenAI 首席技术官：ChatGPT 可能会“编造事实”和被“坏人”利用，应受到监管

OpenAI首席技术官：ChatGPT可能会“编造事实”和被“坏人”利用，应受到监管人工智能研究公司OpenAI开发的聊天机器人ChatGPT当下火爆全网。该公司首席技术官米拉・穆拉蒂（MiraMurati）在接受美国《时代》杂志采访时表示，没想到自己的“孩子”一经发布就能受到如此热烈的欢迎。穆拉蒂补充说，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。穆拉蒂还在采访中强调，像ChatGPT这样的人工智能工具“可能被滥用，也可能被坏人使用”，引发了关于如何在全球范围内对其进行监管的问题。图：OpenAI首席技术官穆拉蒂来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

OpenAI首席技术官：ChatGPT可能会被“坏人”利用 应受到监管

OpenAI首席技术官：ChatGPT可能会被“坏人”利用应受到监管穆拉蒂补充说，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。穆拉蒂还在采访中强调，像ChatGPT这样的人工智能工具“可能被滥用，也可能被坏人使用”，引发了关于如何在全球范围内对其进行监管的问题。问题就是，穆拉蒂说，“你该如何以一种符合人类价值观的方式管理人工智能的使用？”当被问及像OpenAI这样的公司等机构是否有责任监管这一工具时，穆拉蒂说：“对OpenAI等公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”但她强调，公司还需要来自监管机构、政府甚至所有人的帮助。穆拉蒂补充说，现在对ChatGPT进行监管“并不算为时过早”。OpenAI没有立即回应置评请求。今年1月份，OpenAI首席执行官萨姆·奥尔特曼（SamAltman）在接受采访时表示：“生成文本是我们都需要适应的东西。”他说，“我想，我们适应了计算器，改变了数学课上的测试内容。毫无疑问，ChatGPT是一个更极端的例子，它带来的好处也更极端。”自去年11月30日OpenAI公开发布ChatGPT以来，这款人工智能聊天机器人就引起了人们的极大兴趣，有不少人甚至担心最终ChatGPT将取代许多人的工作。有人用ChatGPT和另一种自动生成图形的人工智能工具写出了一本儿童书籍。研究人员还用ChatGPT去回答美国医学执照考试的问题，结果表明ChatGPT“稳稳”通过所有三个部分的考核内容。...PC版：https://www.cnbeta.com.tw/articles/soft/1342769.htm手机版：https://m.cnbeta.com.tw/view/1342769.htm

【OpenAI CTO：ChatGPT和其他人工智能工具均应受到监管】

【OpenAICTO：ChatGPT和其他人工智能工具均应受到监管】2月6日消息，人工智能研究公司OpenAI首席技术官MiraMurati表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具没有什么区别一样。当被问及像OpenAI这样的公司等机构是否有责任监管这一工具时，Murati说：“对OpenAI等公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”但她强调，公司还需要来自监管机构、政府甚至所有人的帮助。她补充说，现在对ChatGPT进行监管“并不算为时过早”。据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话和代码，并回答各类疑问。

OpenAI 正开发“AI 生成图片识别器”：准确率达 99%

OpenAI正开发“AI生成图片识别器”：准确率达99%10月18日晚间消息，OpenAI称其正在开发一款新工具，能够以相当高的精度判断一张图片是否是人工智能所绘制。除了聊天机器人和撰稿工具ChatGPT之外，OpenAI公司还开发过一款名为“DALL-E”的人工智能图片生成器。当地时间周二，该公司首席技术官米拉・穆拉蒂（MiraMurati）透露，该公司开发的AI图片识别工具，能够以99%的准确率判断一张图片是否是人工智能工具所绘制。穆拉蒂介绍，这款图片识别工具正在进行内部测试，后续将会发布，但是她并未提供很具体的发布时间。今年初，OpenAI公司也推出了一个识别工具，主要识别一段文章是否是人工智能助手所创作，但是意外的是，这款产品7月份就被撤架，原因是准确率不高，对用户来说还不可靠。撤架时，OpenAI公司表示后续将会继续完善这个识别产品，另外还要识别其他人工智能助手创作的内容，比如图片、音频等。来源：https://m.ithome.com/html/725852.htm投稿：@ZaiHuaBot频道：@TestFlightCN

OpenAI行政总裁称人工智能行业受监管是至关重要

OpenAI行政总裁称人工智能行业受监管是至关重要人工智能公司OpenAI行政总裁奥尔特曼，就人工智能会否构成安全风险，到美国国会参议院作证。OpenAI制作的ChatGPT，近期在人工智能界掀起热潮。该聊天应用程式可模拟人类方式书写文章、剧本、诗词，以及解决电脑的编码问题，引发监管机构关注涉及的私隐及法律等问题，希望在不扼杀创新的前提下，为人工智能发展设置围栏。奥尔特曼作证时表示，人工智能有潜力解决人类面对的最大挑战，例如气候变化及癌症治疗等，同时承认人工智能的进步，将对劳动力带来重大影响。他形容人工智能目前发展的方向及模型，依然是一种工具，而不是一种生物，但承认随著人工智能变得越来越强大，行业受政府监管是至关重要。被问到人工智能对音乐的影响时，奥尔特曼表示，内容创作者对于他们的声音、肖像或受版权保护的内容，如何被用作训练人工智能模型，应该有发言权。2023-05-1703:24:30(2)

美国监管机构首次正式调查ChatGPT FTC朝OpenAI“开火”

美国监管机构首次正式调查ChatGPTFTC朝OpenAI“开火”FTC的这份调查，意味着美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。由LinaKhan领导的FTC拥有广泛的权力，来监管不公平的和具有欺骗性的商业行为。FTC的调查意味着ChatGPT这一当前全球最火的应用程序面临潜在的法律威胁。FTC在信中写道：请详细描述您在多大程度上采取了措施，来解决或减轻您的大型语言模型产品可能生成有关真实个人的虚假、误导或诽谤性陈述的风险。当前立法者们特别担心所谓的深度伪造视频的风险，这些视频错误地描绘了真实的人采取的令人尴尬的行为或发表令人尴尬的言论。不过相关业内人士认为，FTC管的太宽。媒体援引科技贸易组织进步商会首席执行官AdamKovacevich的话说，“当ChatGPT对某人说错话并可能对其声誉造成损害时，这是FTC管辖权内的问题吗？我认为这根本不清楚。此类事情更多地属于言论领域，属于言论管制范畴，超出了FTC的权限。”FTC还在信中询问有关OpenAI公司数据安全实践和隐私的具体问题，看其是否存在不公平或欺骗性行为。FTC援引了2020年的一次事件，当时OpenAI披露了一个错误，该错误允许用户看到其他人的聊天对话信息和一些与支付相关的信息。FTC的信中总计提出了数十个问题。其他主题包括：ChatGPT设计的技术细节，训练人工智能模型的实践，OpenAI公司的营销工作，对用户个人信息的处理，用户投诉的有关情况，公司如何评估人们对聊天机器人准确性和可靠性的理解等。FTC要求OpenAI公司分享相关的内部材料。FTC此次出手早有征兆。今年5月，FTC便发出警告，称其正在密切关注企业如何选择使用人工智能技术，包括新的生成式人工智能工具，以对消费者产生实际和重大影响。周四当日，LinaKhan在美国众议院司法委员会作证，她因其强硬的执法立场而遭到共和党议员的强烈批评。在听证会上被问及对OpenAI的调查时，Khan拒绝发表评论，但表示：FTC更广泛的担忧包括，ChatGPT和其他人工智能服务被训练了大量数据，而没有检查什么样的数据被这些公司所使用。我们听说有报道称，在回应其他人的询问时，人们的敏感信息被泄露。我们听说，诽谤性言论以及完全不真实的事情正在发生。这就是我们所担心的欺骗。随着火遍全球，生成式人工智能产品越来越成为全球各地监管机构的关注焦点。今年5月，拜登政府寻求制定一项国家人工智能战略，以防范错误信息和该技术的其他潜在缺点。今年3月，意大利监管机构一度禁止ChatGPT，同时检查该公司对个人信息收集的情况等。几周后，在OpenAI提高了其隐私政策的可访问性并推出了验证用户年龄的工具后，ChatGPT在意大利恢复上线。...PC版：https://www.cnbeta.com.tw/articles/soft/1370761.htm手机版：https://m.cnbeta.com.tw/view/1370761.htm