十三名前 OpenAI 员工在一封公开信中表示，人工智能公司对那些提出安全问题的人进行了报复。
十三名前 OpenAI 员工在一封公开信中表示，人工智能公司对那些提出安全问题的人进行了报复。
几位前 OpenAI 员工在一封公开信中警告说，像 OpenAI 这样的先进 AI 公司压制批评和监督，特别是在过去几个月对 AI 安全的担忧增加的情况下。
这封公开信由 13 名前 OpenAI 员工签署（其中六人选择匿名），并得到前谷歌“人工智能之父”Geoffrey Hinton 的支持。信中表示，在缺乏有效的政府监管的情况下，人工智能公司应该承诺遵守公开批评原则。这些原则包括避免制定和执行禁止贬损条款，提供一个“可验证”的匿名举报问题的渠道，允许现任和前任员工向公众提出担忧，并且不对举报人进行报复。
信中说，尽管他们相信人工智能有潜力造福社会，但也看到了风险，比如加剧不平等、操纵和误导信息，以及人类灭绝的可能性。虽然人们对可能接管地球的机器有重要的担忧，但当今的生成式人工智能有更实际的问题，比如侵犯版权、无意中分享有问题和非法的图像，以及它可以模仿人们的样貌并误导公众的担忧。
信件的签署者声称，现有的举报人保护措施“是不足的”，因为它们侧重于非法行为，而不是他们所说的大多数未受监管的问题。劳工部表示，举报工资、歧视、安全、欺诈和扣留休假时间等违规行为的工人受举报人保护法的保护，这意味着雇主不能解雇、裁员、减少工时或降职举报人。信中写道：“鉴于行业内此类案件的历史，我们中的一些人合理地担心各种形式的报复。我们不是第一个遇到或谈论这些问题的人。”
最近，，同时联合创始人，他一直在公司内倡导安全。一位前研究员表示，在 OpenAI，"安全文化和流程已经让位于光鲜亮丽的产品"。
OpenAI 确实有一个新的安全团队，由 CEO 山姆·奥特曼领导。
标签: #OpenAI #匿名
频道: @GodlyNews1
投稿: @GodlyNewsBot
