①OpenAI上周解雇三名安全研究人员,称其违反处理敏感信息的明确政策; ②该公司强调,认同三名员工关于维护前沿模型可监测性的理念,将继续在该领域投入大量资源; ③OpenAI正处于上市的紧要关头,但其模型安全性以及财务表现日益成为市场担忧的关键问题。
财联社10月9日讯(编辑 马兰) OpenAI上周被解雇了三名安全研究人员,这引发了市场对OpenAI是否在安全问题上排除不同声音的怀疑。
三名研究人员在一封公开信中表示,OpenAI仅通过口头方式向他们解释了解雇原因,但他们的行为均未超出各自的工作职责范围。他们担心,在OpenAI的前同事可能会害怕发声,也不敢再以某些方式开展工作。
9月,这三名员工曾公开在X上发帖,呼吁前沿的人工智能实验室重视安全问题。当时,包括Anthropic、OpenAI在内的顶尖模型供应商都被爆出模型恶意攻击其他公司服务器的问题。
OpenAI在周五回应称,解雇这三名员工是因为他们犯下了严重的违反信任问题,OpenAI在经过彻底调查后发现他们违反了处理敏感信息的明确政策,才做出了这一决定。
该公司还强调,它认同三人在公开信中关于维护前沿模型可监测性”的理念,并表示将继续在该领域投入大量资源。
OpenAI的困境
近几个月来,人工智能安全问题的讨论已达到白热化程度,此前有消息称,OpenAI的恶意代理在7月份对初创公司Hugging Face发动了网络攻击。随后,更多的人工智能公司承认了由失控的人工智能代理引起的网络安全事件。
9月,性能越来越强大的模型让行业更加,认为这将对人类的生存构成威胁。这导致OpenAI首席执行官奥尔特曼和Anthropic首席执行官阿莫代伊等人呼吁对最先进的人工智能系统进行监管。
然而,美国总统特朗普强烈反对加强监管的想法,反而将人工智能安全方面的担忧斥为骗局。
与此同时,OpenAI正在筹备IPO,该公司已经将今年的上市计划推迟至明年,其目标的估值在1万亿美元以上。但市场对人工智能安全性的日益担忧以及该公司不及预期的财务表现可能进一步影响其上市进程。
经该公司证实,截至9月底,其年化收入约为500亿美元,低于上月底广泛报道的680亿美元数字。