十三名前 OpenAI 员工在一封公开信中表示,人工智能公司对那些提出安全问题的人进行了报复。
十三名前 OpenAI 员工在一封公开信中表示,人工智能公司对那些提出安全问题的人进行了报复。
几位前 OpenAI 员工在一封公开信中警告说,像 OpenAI 这样的先进 AI 公司压制批评和监督,特别是在过去几个月对 AI 安全的担忧增加的情况下。
这封公开信由 13 名前 OpenAI 员工签署(其中六人选择匿名),并得到前谷歌“人工智能之父”Geoffrey Hinton 的支持。信中表示,在缺乏有效的政府监管的情况下,人工智能公司应该承诺遵守公开批评原则。这些原则包括避免制定和执行禁止贬损条款,提供一个“可验证”的匿名举报问题的渠道,允许现任和前任员工向公众提出担忧,并且不对举报人进行报复。
信中说,尽管他们相信人工智能有潜力造福社会,但也看到了风险,比如加剧不平等、操纵和误导信息,以及人类灭绝的可能性。虽然人们对可能接管地球的机器有重要的担忧,但当今的生成式人工智能有更实际的问题,比如侵犯版权、无意中分享有问题和非法的图像,以及它可以模仿人们的样貌并误导公众的担忧。
信件的签署者声称,现有的举报人保护措施“是不足的”,因为它们侧重于非法行为,而不是他们所说的大多数未受监管的问题。劳工部表示,举报工资、歧视、安全、欺诈和扣留休假时间等违规行为的工人受举报人保护法的保护,这意味着雇主不能解雇、裁员、减少工时或降职举报人。信中写道:“鉴于行业内此类案件的历史,我们中的一些人合理地担心各种形式的报复。我们不是第一个遇到或谈论这些问题的人。”
最近,,同时联合创始人,他一直在公司内倡导安全。一位前研究员表示,在 OpenAI,"安全文化和流程已经让位于光鲜亮丽的产品"。
OpenAI 确实有一个新的安全团队,由 CEO 山姆·奥特曼领导。
标签: #OpenAI #匿名
频道: @GodlyNews1
投稿: @GodlyNewsBot