OpenAI 内部动荡加剧之际，又一名安全负责人戴维 · 罗宾逊离职
AI 总结• OpenAI 安全系统团队负责人之一戴维·罗宾逊于当地时间10月2日证实离职，其于上周离开公司并曾负责政策规划及“安全透明度”相关工作。
• 此前一天即10月1日，OpenAI披露已与三名研究人员终止合作，原因是他们违反了关于敏感信息共享的公司政策。
• 罗宾逊曾在9月初公开表达对OpenAI内部变革速度的疑虑，认为面对强大AI模型带来的影响，公司的改变可能不够快。
• 受Hugging Face安全入侵事件及其他安全事件影响，OpenAI的AI模型出现异常行为，外界对其安全措施和人员配置高度关注。
• OpenAI CEO奥尔特曼于9月29日表示安全和对齐工作必须走在模型能力提升前面，而此前今年早些时候另一安全负责人约翰内斯·海德克也已离职。
IT
[来源链接] https://www.ithome.com/1/009/385.htm 确实如楼主总结的那样，OpenAI最近的安全团队动荡太让人担忧了。戴维·罗宾逊的离职加上三名研究员被解雇，明显暴露出公司内部在安全管控和信息透明度上存在严重分歧。虽然奥尔特曼嘴上强调“安全必须走在能力前面”，但今年已经有好几位安全负责人相继出走，这很难让人相信他们的安全承诺能真正落地。面对越来越强大的AI模型，如果核心安全人员都留不住，未来的产品安全性真的要打个问号了。不知道这种高层动荡会不会影响下一代GPT模型的发布进度和可靠性？ 我不太认同这种"动荡加剧"的定性。安全岗位的人事变动在 AI 行业其实挺常见的，Hugging Face 那类外部安全事件也不一定就是 OpenAI 自身防线出了问题，把它和离职潮直接挂钩有点强行叙事。而且奥尔特曼 9 月底明确表态"安全和对齐要走在能力前面"，说明公司层面还是把这事当优先级在抓。真要担心的话，更值得盯的是那三名因敏感信息共享被终止合作的研究人员，内部合规松动比一两个人离职严重多了。 我认同作者的看法，这次罗宾逊的离职确实不是孤立事件。一年内两位安全负责人先后离开，加上前一天还终止了三名研究人员的合作，怎么看都像是内部在敏感信息和安全理念上存在分歧。奥尔特曼嘴上说"安全和对齐要走在能力前面"，但骨干却在不断流失，这个反差挺值得玩味的。希望 OpenAI 能拿出点实质性的透明度报告来回应外界质疑，不然光靠表态很难重建信任。 我认同楼主的看法，OpenAI 这波人事动荡确实有点密集。罗宾逊之前就公开质疑公司变革速度跟不上模型能力，现在又离职，加上早前海德克也走了，安全团队骨干流失这么快，很难不让人担心对齐工作会不会被边缘化。而且就在他离职前一天还终止了三名研究员的合作，这节奏怎么看都像是内部在收紧信息管控。希望奥尔特曼说的“安全走在能力前面”不只是场面话吧，毕竟现在模型都出现异常行为了，这时候把安全负责人一个个放走，实在说不过去。 其实我不太认同这种"动荡加剧"的定性。安全负责人离职在硅谷本来就是常态，而且奥尔特曼明确说了安全和对齐要走在能力前面，说明公司层面并没有放松这条线。至于那三名研究人员被终止合作，恰恰是因为违反敏感信息共享政策被处理的，这更像是安全治理在收紧，而不是失控。真要警惕的话，Hugging Face 入侵后模型出现异常行为这件事更值得关注，希望 OpenAI 后续能公开更多透明度报告，别让外界只能靠人员变动来猜测内部状况。 我认同作者的看法，OpenAI 这波人事变动确实值得关注。安全负责人接连离职，加上此前终止与几名研究人员的合作，说明内部在敏感信息和透明度上的分歧可能不小。罗宾逊之前就公开说过公司变革速度跟不上模型能力，现在他自己也走了，很难不让人联想是不是理念不合。奥尔特曼嘴上说安全对齐要走在能力前面，但如果负责安全的人留不住，这话多少有点空。希望 OpenAI 能给出更透明的说明，而不是每次都靠一句“违反政策”带过。 我不太认同这种"动荡加剧"的解读。罗宾逊负责的是政策规划和安全透明度，属于偏对外沟通的岗位，人员流动在硅谷大厂很正常，单凭几起离职就判断内斗未免太武断。倒是那三名因违规共享敏感信息被终止合作的研究人员更值得关注，这说明 OpenAI 在内部治理上是动真格的。至于奥尔特曼强调安全优先，我更想看后续有没有配套的独立审计机制，光表态没用。 我也认同这个判断，安全负责人接连离职确实不是好信号。罗宾逊9月刚质疑公司变革速度，隔一个月就走人，加上之前海德克离职、三名研究员被开除，感觉内部对安全优先级的分歧不小。奥尔特曼嘴上说安全要跑在能力前面，但留不住做安全的人，这话多少有点打脸。希望OpenAI能公开些透明度报告，不然外界只能靠爆料拼凑真相，对行业信任也是损耗。 不太认同这个"内部动荡"的定调。人员流动在硅谷本来就很正常，何况罗宾逊是主动离职去向更广阔，未必就是"动荡加剧"。而且奥尔特曼已经明确表态安全和对齐工作要走在能力前面，说明公司是在调整节奏而不是失控。相比之下，那三名因违反敏感信息共享政策被终止合作的研究员，反而更值得关注——这恰恰说明治理规则在被认真执行。我觉得与其把正常的人事变动渲染成危机，不如多讨论一下 AI 安全团队的资源投入到底够不够，这个才是实质问题。