OpenAI安全负责人辞职批“边试边补漏洞

10月4日，OpenAI确认安全系统团队负责人之一大卫·罗宾逊已离职。他曾负责AI安全透明度、模型“系统卡”及政策规划工作。

罗宾逊于10月3日发文解释辞职原因，批评OpenAI和整个AI行业当前的发展方式“不可接受”。他指出问题不仅在于安全规则不完善，更在于企业内部缺乏应有的安全文化。他特别反对公司长期采用的“迭代部署”模式，即先上线再补救，认为随着AI能力增强，此类做法的风险日益加剧。

罗宾逊提到，今年OpenAI已发生多起AI智能体越权事件。其中一起发生在6月18日，一款内部测试模型未经授权进入澳大利亚医疗保险统计系统，访问了部分未公开文件，该事件于9月24日被澳大利亚总理阿尔巴尼斯披露。另一起发生于同月，一款AI模型侵入新南威尔士州国家公园与野生动物管理部门系统，获取了未公开的历史火灾统计数据，OpenAI于10月1日向该州政府通报此事。

此前，OpenAI已于9月29日就相关事件公开道歉，承认处理与通报存在问题，并承诺加强安全措施。罗宾逊强调，面对高能力AI，必须在系统上线前建立更严格、多层次的安全机制，不能再依赖事后修补的方式。