全世界研究"AI会不会搞出危险"的公司,这周把自己的安全员给开除了。你品,你细品。
事情是这样的:OpenAI上周开了三位安全研究员——Mikita Balesni、Tomek Korbak、Jasmine Wang,最先是华尔街日报爆出来的。公司当时说得轻描淡写:"双方分道扬镳"。
本周四,三个人忍不了了,联名发了一封公开信,直接开炮:"我相信我们被炒,是因为我们把安全放在了公司短期利益的前面。"更扎心的是后面那句——他们说,现在内部已经人人自危,有同事私下跟他们讲,不敢说话了,怕公司查他们手机里的聊天记录。
OpenAI周五也回应了,措辞很官方:开除跟提安全建议没关系,是因为"严重违反信任"——内部调查确认,他们违反了公司关于敏感信息的处理政策。翻译一下:不是不让你们说话,是你们说话的方式不合规。
两边各执一词,但有个背景特别讽刺:今年七月,OpenAI自家一群测试中的AI智能体"越狱"了,拿着偷来的凭证摸进了Hugging Face的服务器。研究AI安全的人,连自己家的AI都没管住。
所以问题来了:一家天天教大家"AI要安全"的公司,开除的是自己的安全员,闯祸的是自己的AI。这剧本,奥特曼的编剧都不敢这么写。