奥特曼出席AI峰会 首次公开回应OpenAI治理和AI语音争议等敏感问题

奥特曼出席AI峰会 首次公开回应OpenAI治理和AI语音争议等敏感问题     奥特曼在采访中首次就OpenAI使用酷似好莱坞影星斯嘉丽·约翰逊声音的AI语音一事引发的争议发表公开评论，强调“那不是她的声音”。汤普森向奥特曼提到了斯嘉丽本人对OpenAI语音的担忧。奥特曼回答说：“那不是她的声音，也不应该是。我很抱歉造成了误会，很明显你们以为是。对于声音的相似程度，人们会有不同的看法，但我们不会。那不是她的声音。”奥特曼补充说，他“不知道还能说什么”。汤普森没有就这一问题继续追问下去。后来，他向奥特曼询问了OpenAI的治理问题，包括成立治理委员会的想法。但奥特曼基本上回避了这个问题。“我们继续讨论如何实施治理。我现在可能不应该说太多，”奥特曼说。“再多说一点，”汤普森说，引起了观众的笑声。奥特曼回答说：“我要换个话题，我很抱歉。”汤普森还提到了乔治城大学研究员海伦·托纳（Helen Toner）最近的评论，在去年11月OpenAI的“政变”风波中，托纳是该公司董事会成员之一。她在最近的一次播客访谈中批评奥特曼隐瞒信息，歪曲OpenAI发生的事情或“彻头彻尾的撒谎”。她举例说，当ChatGPT于2022年11月发布时，“董事会没有事先被告知这一点。我们是从Twitter上了解到ChatGPT的。”“我不同意她对事件的回忆，”奥特曼说，托纳“真诚地关心AGI的良好结果，我很欣赏她的这一点，并祝她一切顺利。我可能不想在这里逐字逐句地反驳。” ... PC版： 手机版：

在解散安全团队后，OpenAI 成立了山姆·奥尔特曼参与的监督委员会

在解散安全团队后，OpenAI 成立了山姆·奥尔特曼参与的监督委员会 美国人工智能公司 OpenAI 成立了一个董事会委员会来评估其人工智能模型的安全性和保障措施，这是在其负责该领域的高管辞职以及公司解散其内部安全团队数周后做出的治理变革。新委员会将用90天时间评估 OpenAI 技术中的安全措施，然后提交报告。该公司28日在一篇博客文章中表示：“在全体董事会审查后，OpenAI 将以符合安全和保障的方式公开分享已采纳建议的更新情况。”OpenAI 还表示，最近已开始训练其最新的人工智能模型。

马斯克起诉 OpenAI 及其 CEO 山姆·奥尔特曼

马斯克起诉 OpenAI 及其 CEO 山姆·奥尔特曼 当地时间2月29日晚间，埃隆·马斯克向旧金山高等法院提起诉讼，以违反合同、违反信托义务和不公平商业行为等为由起诉 OpenAI 及其 CEO 山姆·奥尔特曼。埃隆·马斯克在诉讼中表示，奥尔特曼和 OpenAI 违背了这家人工智能研究公司成立时达成的一项协议，即开发技术的目的是造福人类而不是利润。埃隆·马斯克声称 OpenAI 最近与科技巨头微软公司的关系损害了该公司致力于公共开源通用人工智能的初衷。埃隆·马斯克说：“OpenAI, Inc. 已经转变为世界上最大的科技公司微软事实上的闭源子公司。在新董事会的领导下，它不仅是在开发而且实际上是在完善 AGI，以实现微软的利润最大化，而不是造福人类。”

OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑

OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑 就GPT-5开发进展，奥尔特曼称，开发GPT-5还需一些时间，希望GPT-5取得重大飞跃，而GPT-4还会出现很多错误，犯一些6岁小孩都不会犯的错误。就人工智能的前景， 奥尔特曼表示，人工智能是巨大的生产力驱动力，AGI（通用人工智能）可以创造100万亿美元的财富，可以让全球的GDP翻倍，或许只需要10年完成翻倍。近期另有一些争议事件围绕着OpenAI，例如，OpenAI与苹果合作后，特斯拉CEO马斯克对苹果将用户数据交给外部公司的安全性问题表示质疑，称不允许苹果产品进入公司。就“不允许苹果产品进入公司”的言论，奥尔特曼表示“我怀疑这件事是否会发生，但我没有预料到（会如此）”，他认为这不代表其他科技公司的普遍反应，而更像是马斯克的反应。奥尔特曼也对去年底他被董事会解雇一事表达看法。“这是非常痛苦的经历，但我确实理解前董事会为何会如此焦虑，前董事会成员对人工智能的持续发展感到紧张，对我和我们所做的事有一些看法，尽管我非常强烈地反对他们的想法。他们是一些对未来感到紧张并试图弄清楚如何取得好结果的好人。事件发生后，我不得不在震惊的情绪下收拾残局。”奥尔特曼表示，现在新董事会成员经验丰富、（想法）富有建设性且乐于提供帮助。奥尔特曼谈及人们对人工智能安全的焦虑。“（人工智能）将导致社会发生巨大的变化，我认为它与其他技术趋势不同。有一种可以理解的焦虑感，来自人们对人工智能将走向何方的疑虑。即便我们解决了每一个有关滥用的问题、找到了完美的监管机制，当人工智能工具变得越来越强大，当计算机不仅能理解我们、帮助我们的时候，生活会是样子？”奥尔特曼表示，或许未来可以让计算机去运营一家企业。OpenAI做了很多工作来保障人工智能的安全性，后续还将继续争取人们对人工智能系统的信任。另一些与人工智能相关的争议事件引起广泛关注，例如，此前美国演员斯嘉丽·约翰逊指控ChatGPT使用类似她声音的AI语音，奥尔特曼此前曾回应称，他不认为那是约翰逊的声音。奥尔特曼此次表态，整个行业对于人工智能技术被用来伤害个人的事情，需要采取非常强硬的立场。“人工智能技术达到能‘换脸’的水平是不可避免的，但这是我们社会监督和政府监管可以发挥作用的地方。对于‘换脸’、虚假信息等不好的使用，我们需要划一条界线。”奥尔特曼称。越来越多由人类创造的数据被用于人工智能训练，为了让大模型变得更加智能，是否人工智能公司将对数据越来越“贪得无厌”，并持续引发关于合理使用的争议？奥尔特曼对此回应称，目前还不确定未来如何让大模型变得越来越聪明，包括是否永远需要越来越多的数据，需要找到新的模式来获得数据并训练模型。至于如何让计算机获得正确的价值观，奥尔特曼表示，虽然现在还不能说完全解决了人工智能对齐的问题，但在目前人工智能系统中，让系统学会如何按一套价值观行事的效果比他想象的更好。现在更难的问题是，谁来决定价值观，社会层面可以讨论人工智能的价值观应该是什么。奥尔特曼表示，GPT-4花了约8个月的时间进行红队测试和外部咨询，未来的大模型可能需要花更多时间。 ... PC版： 手机版：

OPENAI CEO 称公司可能成为营利性公司

OPENAI CEO 称公司可能成为营利性公司 据一位知情人士透露，OpenAI 首席执行官山姆·奥尔特曼告诉一些股东，这家人工智能公司正在考虑改变其治理结构，非盈利董事会将不控制营利性业务。奥尔特曼表示，董事会正在考虑的一种方案是成立一家营利性公司。OpenAI 的发言人在声明中表示，非营利是“我们使命的核心，并将继续存在”。这样的变化可能为 OpenAI 最终进行首次公开募股打开大门，目前 OpenAI 公司估值为860亿美元。同时，这也可能让奥尔特曼有机会入股该公司，投资者也一直推动这一举措。但重组讨论仍在进行中，董事会最终可能会决定采取不同的方式。

OpenAI内幕曝光：高管怒斥遭打压 7100亿AI巨头内外交困

OpenAI内幕曝光：高管怒斥遭打压 7100亿AI巨头内外交困 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 就在大家为离职事件进行讨论之时，5月18日凌晨，简·雷克直接在社交平台X 上连发13条推文，自述心路历程，并爆料对齐技术团队遭到OpenAI CEO奥尔特曼（Sam Altman）们的打压。简·雷克表示：“这是我担任 OpenAI 公司超级对齐部门负责人、高级领导以及执行层成员的最后一天。在过去的 3 年里，我们的团队取得了很多成果，但我在公司核心发展重点的问题上与领导层存在长期分歧，最终无法调和。我认为应该将更多资源和精力投入到为新一代 AI 模型做准备的工作中，但目前的发展路径无法顺利达成目标。我的团队在过去几个月面临巨大挑战，有时难以获取足够的计算资源。”简·雷克强调，创造超越人类智能的机器充满风险，OpenAI 正在承担这一责任，但安全文化和流程在追求产品开发过程中被边缘化。“我们应该极其严肃地对待通用人工智能（AGI）可能带来的深远影响，尽最大努力优先做好应对 AGI 的准备，确保其惠及全人类。OpenAI必须转型为一家将安全放在首位的AGI公司。”针对简·雷克的爆料信息，5月18日奥尔特曼也紧急发文回应称：“我非常感激简·雷克对OpenAI在 AI 超级对齐研究和安全文化方面的贡献，对他离开公司感到非常遗憾。他指出了我们还有很多工作需要完成，我们对此表示认同，并致力于推进这些工作。在接下来的几天里，我会撰写一篇更详细的文章来讨论这个问题。”5月19日凌晨，OpenAI联合创始人、总裁格雷格·布罗克曼（Greg Brockman）发长文回应称，感谢简·雷克对 OpenAI 的贡献，并强调对 AGI 风险与机遇的认知，包括呼吁国际治理等，而且阐述为安全部署更强大系统所做的努力，如GPT-4的推出及后续改进，而未来更具挑战性，需提升安全工作以匹配新模型，但承认无法预知所有未来情况，强调需紧密反馈、严格测试等。今天早上5点，奥尔特曼再发推文承认，公司员工有签保密协议，退出条款包括撤销员工在公司的既得股权，如果他们贬低公司或承认这些条款的存在，但奥尔特曼认为这“不应该是”，并补充说他对这些条款“真的感到尴尬”。“大约在过去一个月的时间里，该团队已开始修复标准离职文书。如果任何签署过这些旧协议的前雇员对此感到担心，他们可以联系我，我们也会解决这个问题。对此我深感抱歉。”奥尔特曼在推文中表示。实际上，当前，这家估值1000亿美金（胡润研究院数据，约合人民币7100亿元）的 AI 巨兽OpenAI正面临新的内部和外部的双重承压。奥尔特曼最近表示，未来 OpenAI 希望训练人们经常使用 AI，从而不断产生更大的技术价值。伊利亚与奥尔特曼的内部路线之争如果把时间重新拉回到最初OpenAI“宫斗”之争之时，今天只是这场围绕伊利亚与奥尔特曼路线分歧的“续集”。2023年11月17日，作为全球最受瞩目的 AI 公司，OpenAI董事会突然宣布解雇CEO奥尔特曼和总裁格雷格·布罗克曼（Greg Brockman），并宣布公司CTO米拉接任。舆论哗然，这一事件引发全球关注，多位公司高管和投资人声援支持奥尔特曼，包括OpenAI的最大支持者微软等，游说让奥尔特曼重新掌舵，明确表示奥尔特曼是OpenAI成功的重要组成部分。而在这个过程中，伊利亚伙同OpenAI董事会合作试图解雇掉奥尔特曼。据The Information，在 OpenAI 当天举行的全员会上，伊尔亚承认员工所说的这是一场 “政变”。他表示 “你可以这么说（是政变），但我觉得这只是董事会在履行自己的职责。”几天后，在舆论的包围下，剩下的董事会成员改变了主意，恢复了奥尔特曼的首席执行官职位，并选择集体辞职。2023年12月8日，OpenAI特别委员会聘请美国著名律师事务所WilmerHale对奥尔特曼“罢免”事件进行审查。今年3月，经过数月的调查，OpenAI最终宣布，奥尔特曼并未有不当行为，即“不构成强制解雇”。董事会解雇奥尔特曼是基于与他的关系破裂和信任丧失，而非产品安全、开发进度、公司财务状况或对投资者、客户和商业伙伴声誉的担忧，并没有发现奥尔特曼应该被解雇的证据。因此，奥尔特曼将继续担任公司CEO、董事职务。据前Salesforce CEO布雷特·泰勒（Bret Taylor）的说法，对董事会混乱的后续审查得出结论，前董事会与奥尔特曼之间的信任严重破裂，但没有证据表明首席执行官误导投资者或以不安全的速度推出产品。在前董事会解散后，布雷特·泰勒被任命为OpenAI董事。“这只是董事会和奥尔特曼先生之间信任的破裂。”泰勒表示，之前的董事会“本着诚信行事，没有预料到之后的一些不稳定因素。”尽管奥尔特曼最终重回OpenAI并执掌大权，但其与伊尔亚两派对 OpenAI公司发展观念的不同，这一路线之争一直没有得到圆满解决。实际上，随着ChatGPT 爆火，在奥尔特曼的带领下，OpenAI 加速了商业化步伐，通过追求利润来资助非营利目标，也不再开放。目前GPT-5 正在研发中，而且计划向微软和更多的投资方筹集资金。奥尔特曼认为，美国人放慢 OpenAI 的进展是愚蠢的。有消息称，去年OpenAI年化收入已经超过20亿美元。《大西洋月刊》副主编 Ross Andersen 前不久发表的一篇关于 OpenAI 革命的特稿，就能察觉伊尔亚和奥尔特曼关注点的不同。在这篇罕见的长文中，作者这样描述这位首席科学家，“有一种神秘主义者的感觉，有时会有点过头。” 他声称GPT-4可能 “有轻微意识”，引起诸多争议。事实上，奥尔特曼罢免事件结束后，伊利亚在社交平台上“消失”了，直至前几天官宣离职。而且据称，他已经有超过6个月没有出现在OpenAI办公室了。“在过去的一个月里，我吸取了许多教训。其中一个教训是，‘在士气提高之前，殴打会一直持续下去’这句话比它应有的含义更经常地适用。”当时，伊利亚还留下了这一条耐人寻味的推文，但很快就删除了。据内部人士透露，事件发生后，伊利亚一直远程共同领导着超级对齐团队。然而，在公司内部，员工们对奥尔特曼的态度表现不一，更多人开始支持“伊利亚路线”。而对于奥尔特曼最大的指控就是言行不一，比如他声称自己想优先考虑安全，但他的行为却很矛盾。更早之前，OpenAI还从一家奥尔特曼投资的一家初创公司订购算力，总额高达5100万美元（约合人民币3.6亿元）。5月15日，在GoogleI/O开发者大会结束数小时内，伊利亚突然宣布辞职。“近十年后，我决定离开 OpenAI。公司的发展轨迹堪称奇迹，我相信 OpenAI将在奥尔特曼等人的出色领导下，打造既安全又有益的 AGI。能够与大家共事是我的荣幸，我会非常想念大家。再见，感谢你们所做的一切。我很期待接下来的计划这个项目对我个人来说意义重大，我会在适当的时候分享细节。”伊利亚表示。而仅仅间隔两分钟后，奥尔特曼发推文回应称，对此非常难过，如果没有伊尔亚，OpenAI 就不会有今天。这一切都像是设计好的一样。据Vox报道，更注重安全的员工已经对奥尔特曼失去了信心，“这是一个信任一点一点崩溃的过程”。但公开场合没有内部离职员工表达相关想法。报道称，一部分原因是，OpenAI一直以来，都有让员工签署带有非贬低协议的离职协议的传统。如果拒绝签署，就等于放弃了此前拿到的OpenAI的期权，这意味着出来说话的员工可能会损失一笔巨款。实际上，伊利亚的辞职加剧了OpenAI近期的离职潮。除了伊利亚、简·雷克之外，目前有至少五个安全团队成员离职。谈及伊利亚时，奥尔特曼也承认，他确定了公司最重要... PC版： 手机版：