本文作者:访客

AI教父站到了OpenAI对立面

访客 2025-04-28 16:08:13 79398
AI教父站到了OpenAI对立面摘要: 出品|虎嗅科技组作者|孙晓晨编辑|苗正卿头图|视觉中国日前,一封公开信拦在了OpenAI的重组之路上。该公开信由诺奖得主...

AI教父站到了OpenAI对立面

出品|虎嗅科技组

作者|孙晓晨

编辑|苗正卿

头图|视觉中国

日前,一封公开信拦在了OpenAI的重组之路上。该公开信由诺奖得主、AI教父Geoffrey Hinton联合10名前OpenAI员工及其他业内人士共同发表,要求停止OpenAI的重组计划。

AI教父站到了OpenAI对立面

信中强调了OpenAI的宗旨使命,即“确保通用人工智能造福全人类”,而且其公司章程也表示,任何构建AGI的愿望都必须服从于实际的慈善目的。回溯OpenAI的创立与发展,公开信指出,OpenAI成立便秉持非营利的技术发展使命,在曲折的运营过程中,其领导层也采取诸如非营利组织控制、限制投资者利润等手段以保障公司专注于该使命,而如今,OpenAI加速推进重组,“这些保障措施现在处于危险之中”。

反对者们认为,重组将颠覆OpenAI的慈善宗旨。一方面,重组将消除非营利组织的控制,并消除关键的治理保障措施。在此情况下,公司很有可能因为利润动机而不再服从使命,而在法律上也没有可强制执行的义务来推进慈善目的,原本属于非营利组织的利益很有可能将归股东所有,OpenAI-PBC及其投资者也将很有可能实际拥有和控制AGI技术;而另一方面,失去控制权而造成的损失无法通过销售价格来弥补。反对者们表示,OpenAI的非营利组织虽然原则上可以利用金融资产来获得对AGI开发和治理的影响力,但在实践中不再可能获得其已经拥有的影响力。

公开信指出,OpenAI进行重组的公开解释并不充分。尽管OpenAI一再强调谋求竞争优势的必要性,但是反对者们依然认为竞争优势不是充分的理由。此外,OpenAI并没有解释为什么需要取消非营利组织的控制权,而非营利组织可能因失去控制权而一无所获。

为此,反对者们在公开信中向总检察长Bonta和Jennings呼吁,要求OpenAI回答基本问题,并通过确保非营利组织保留控制权来保护慈善信托和目标。

OpenAI的这场重组计划酝酿多时,2024年底,其发布公告表示,公司结构即将重组。据其公告显示,OpenAI在未来将继续保持非营利性组织和营利性组织兼而有之的状态,现有的营利性组织将转变为特拉华州公共利益企业(PBC),非营利组织在现有营利性组织中的重大权益将以PBC的股票形式出现。

但是,面对着诸多质疑和阻碍,这场重组计划的推进并不顺利。

就在今年3月底,OpenAI宣布完成了一轮规模巨大的私募融资,融资金额高达400亿美元,公司估值达到3000亿美元。这笔投资附带的一项重要条件,即OpenAI必须在年底前成功重组为一家营利性公司,否则,这轮融资的规模可能将缩减至200亿美元。这意味着,OpenAI不得不加速推进其重组计划。

终于,本月初,OpenAI反诉马斯克,企图摆脱这一老对头的法庭纠缠,推进自身的营利化转型。

可如今,这封公开信又拦在了OpenAI加速狂飙的路上。

事实上,此次由Geoffrey Hinton牵头的联合公开信并非相关人员对OpenAI重组的首次阻拦。除了马斯克对OpenAI发起诉讼以及企图收购其非营利组织外,专注于人工智能安全的非营利组织Encode、科技公司Meta等也曾公开反对OpenAI的转型。而在此次公开信之前,还有12名前OpenAI员工提交了一封支持马斯克起诉OpenAI的信件。

相比之前的公开反对,此次公开信显然附有更强的学术压力,除了身为AI教父的Geoffrey Hinton,来自哈佛大学、哥伦比亚大学以及宾夕法尼亚大学等知名院校的多位研究人员亦在反对者之列。

AI教父站到了OpenAI对立面

这也说明,OpenAI的营利化转型在引起竞争对手以及相关组织反对的同时,也引起了学术界的关注,它也不得不面对相关领域学者的审视。

作为深度学习的奠基人,Geoffrey Hinton曾多次警示AI风险,此次公开信也表现出其对于AI技术失控的忧虑。而如今OpenAI作为千亿级别的资本巨兽,恐怕不会因此而停下转型脚步。考虑到OpenAI近期如打算收购Chrome等一系列商业行为,此次公开信究竟能砸出多大的水花,只怕还是不容乐观。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4286380.html?f=wyxwapp

阅读
分享