OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI正在组建一个新团队，以控制“超级智能”人工智能OpenAI正在组建一个由其首席科学家兼公司联合创始人之一IlyaSutskever领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。，Sutskever和OpenAI联盟团队的负责人JanLeike预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。”“我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”为了推动“超级智能对齐”领域的发展，OpenAI正在创建一个新的超级对齐团队，由Sutskever和Leike领导，该团队将有权使用公司迄今为止已获得的20%的计算资源。该团队由OpenAI之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能AI的核心技术挑战。——

OpenAI 证实即便是超人工智能也能被人类有效控制

OpenAI证实即便是超人工智能也能被人类有效控制OpenAI认为超越人类的人工智能将在10年内到来，而人类能否监督比自身更聪明的模型一直是个被广泛讨论的话题。OpenAI的超级对齐团队给出了一个初步实证答案——可以。今天的情况是强到弱泛化，即人类(强老师)指导GPT-4(弱学生)学习。为了研究弱到强泛化的未来，OpenAI研究了一个简单的类比:小模型能监督大模型吗？结果证明，GPT-2监督的GPT-4达到了由人类监督的GPT-3.5性能。超级对齐团队测试后发现，许多简单的方法可以大大改进弱到强的泛化能力，比如鼓励强模型更加自信，包括在必要时自信地反对弱监督者的观点。又比如先对齐一个稍微超人的模型，然后用它对齐一个更智能的模型，而不是直接对齐非常超人的模型。投稿：@TNSubmbot频道：@TestFlightCN

Meta人工智能主管杨立昆：大型语言模型不会达到人类智能水平

Meta人工智能主管杨立昆：大型语言模型不会达到人类智能水平Meta的人工智能主管表示，为ChatGPT等生成式人工智能产品提供动力的大型语言模型永远无法实现像人类一样的推理和计划能力，他专注于一种激进的替代方法，即在机器中创造“超级智能”。该公司首席人工智能科学家杨立昆表示，LLM“对逻辑的理解非常有限……不理解物理世界，没有持久的记忆，不能按照任何合理的定义进行推理，也不能进行层次化的规划”。杨立昆说，LLMs的这种进化是肤浅和有限的，只有当人类工程师介入并根据这些信息进行训练时，模型才会学习，而不是像人类那样自然地得出结论。“在大多数人看来，这当然是推理，但主要是利用从大量训练数据中积累的知识。(LLM)尽管有局限性，但非常有用。”——（）

前OPENAI研究员将创办人工智能教育公司

前OPENAI研究员将创办人工智能教育公司7月17日消息，OpenAI创始成员安德烈·卡帕蒂(AndrejKarpathy)周二宣布创办人工智能教育公司EurekaLabs。卡帕蒂称，公司将使用人工智能助教来支持和扩展由人类教师设计的教材。“这种教师与人工智能的结合，可以在一个通用平台上运行一整套课程，”卡帕蒂说。“如果我们取得成功，那么任何人学习任何东西都将很容易。”卡帕蒂还表示，该公司的第一个产品将是一个本科水平课程，教学生训练自己的人工智能系统模型。——、

OpenAI 悄然关闭其人工智能检测工具

OpenAI悄然关闭其人工智能检测工具一月份，人工智能巨头OpenAI宣布推出一款工具，AI生成文本分类器，该工具能够用于区分由人类编写或是人工智能生成的文本，用于辅助解决自动化误导性活动和学术欺骗等问题。半年后，这个工具就死了，因为它无法完成其设计目的。这就上周，OpenAI悄悄地断开了其AI检测工具AIClassifier，因为该公司表示该工具的准确率较低。OpenAI写道：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视觉内容是否是人工智能生成的。”——

OpenAI执行长寻求美国会授权开发强大人工智能

OpenAI执行长寻求美国会授权开发强大人工智能美国人工智能公司OpenAI首席执行长星期二（5月16日）在一听证会上向美国国会寻求许可，以支持该公司开发更强大的人工智能（AI）系统。路透社报道，OpenAl创始人奥特曼（SamAltman）的书面证词显示，他将提倡对具有某些能力的人工智能寻求国会的许可或注册要求。这样一来，美国当局便可要求公司遵守安全标准，例如在AI系统发布前进行测试并公布结果。阿特曼说：“对人工智能的监管是至关重要的。”近几个月来，各大AI公司先后将愈发智能化的AI工具推向市场，批评者担忧AI技术的高速发展或对社会和人类构成深远的风险。白宫为此召集了包括奥特曼在内等专家，以商讨人工智能系统的安全性。美国立法者则寻求采取约束行动，旨在不影响技术发展的情况下维护国家安全。据了解，OpenAI一名工作人员曾提议设立一个美国人工智能监管机构，该机构可被称为人工智能安全和基础设施安全办公室，或称“Oasis”。不过，奥特曼并未在书面证词中针对设立AI监管机构作出回应。但他指出，美国应制定“一个足够灵活的治理制度，以适应新的技术发展”，并“定期更新适当的安全标准”。ChatGPT是一种自然语言处理（NLP）技术，使机器能够理解和回应人类对话。它基于GPT-3模型，这是一种深度学习算法，可以对问题和对话生成类似人类的回应。ChatGPT用于各种应用程序，包括客户服务、虚拟助手和聊天机器人。