哈希力量归集文库路径访问: 首页 > 通用人工智能 > 学界观察 • 分析短评

GPT革命|OpenAI“动乱”,利益还是信仰之争?

杜知航 ☉ 文 收录源:财新网 2023-11-23 @ 哈希力量

【小哈划重点:《埃隆·马斯克传》提到,马斯克决意在其各家公司中发展人工智能能力,这直接导致了2018年他与OpenAI的决裂。他试图说服奥特曼,OpenAI既然还是落后于谷歌,那就应该并入特斯拉发展。】

公司顶层虽为非赢利性机构,但员工通过持有分红权股票获益,创始团队的技术灵魂人物对AI的态度和目前公司发展速度未能“对齐”uPQ哈希力量 | 消除一切智能鸿沟

高层变动三日内,从CEO到员工,董事会到投资者,OpenAI的利益攸关者纷纷走到前台。OpenAI的公司架构保证了公司决策的独立性,但也让董事会掌握绝对决策权,为后来的“宫斗”埋下伏笔。截至当地时间11月21日,OpenAI超九成员工已签署公开信,要求OpenAI现有董事会辞职,并换回以前的领导班子,但OpenAI董事会尚未妥协,拉锯战持续。uPQ哈希力量 | 消除一切智能鸿沟

OpenAI本是一家非盈利机构,但又能售卖产品赚钱,并大量融资,这仰仗了OpenAI独特的公司架构。在OpenAI权力金字塔上,塔尖是董事会,董事会下面控制OpenAI的非营利母公司,这也是OpenAI最早的形态,名为OpenAI Inc.。2015年,非营利母公司创立时,确立了为全人类服务的宗旨,要创造安全有益的通用人工智能(AGI):AGI高度自治,比人更聪明,能重塑社会,因此在努力研发AGI的同时,更要保证其安全可靠,为社会服务。uPQ哈希力量 | 消除一切智能鸿沟

成立几年后,OpenAI发现非盈利模式无法凑够资金——募捐目标为10亿美元,结果只筹到1.3亿美元。“越来越明显的是,捐赠不足以与推动核心研究所需的计算能力和人才成本相匹配,这危及着我们的使命,”OpenAI称。因此,2019年,OpenAI在母公司下了设立营利性子公司,名为OpenAI LP(现名为OpenAI Global LLC),负责产生和分配利润,还成功引入了微软为子公司的少数股东。uPQ哈希力量 | 消除一切智能鸿沟

虽然子公司营利,但OpenAI章程明确要求,子公司的主要义务是推进OpenAI的宗旨,“即使是以牺牲部分或全部财务股份为代价。”权力最大的董事会也服务于非营利的母公司,“我们非营利组织的主要受益者是人类,而不是OpenAI的投资者。”uPQ哈希力量 | 消除一切智能鸿沟

OpenAI一开始便在子公司上设立“防火墙”,避免资本颠覆使命。首先,营利子公司完全受非营利的母公司控制。第二,子公司设定为“利润封顶”(“capped-profit”)公司,即,如果公司经营成功,投资者和员工可以得到分红,但该分红有最高数额的限制,超出部分必须交归非营利的母公司所有。uPQ哈希力量 | 消除一切智能鸿沟

此外,董事会严格独立于资本。微软虽然投资OpenAI数十亿美元,但无法派人进入OpenAI的董事会,也对OpenAI没有控制权。OpenAI董事会中,独立董事也一直占多数,独立董事不持有OpenAI的股权,甚至奥特曼也不直接持有股权,只通过一家早期投资OpenAI的孵化器持有很少的股份。uPQ哈希力量 | 消除一切智能鸿沟

德恒律师事务所硅谷办公室主任朱可亮指出,如此做隔断,虽然利于减少资本干扰,但造成董事会一家独大,而投资者和员工等利益攸关者的利益被忽视。uPQ哈希力量 | 消除一切智能鸿沟

朱可亮分析,OpenAI的六人董事会中,被开除的奥特曼和Greg Brockman倾向加速商业化,以获得更多资金来支持AI模型的算力需求;而独立董事Tasha McCauley和Helen Toner更关注AI的安全,两人还一同担任英国的国际人工智能治理中心的顾问委员会成员。而剩下的两名董事中,Ilya Sutskever通知了奥特曼和Brockman参加线上会议,并随后与其他董事罢免了两人。Ilya Sutskever是董事会成员之一,但他更瞩目的身份是OpenAI的联合创始人及首席科学家(Chief Scientist),值得注意,“首席科学家”这个头衔有别于OpenAI的另一个职位——“首席技术官”(CTO),CTO由Mira Murati担任。uPQ哈希力量 | 消除一切智能鸿沟

在OpenAI的的科学路线上,Ilya具有领头羊的地位。一名AI领域投资人向财新分析,Ilya Sutskever指明方向,而Greg Brockman有执行能力把工程做出来,奥特曼则负责公司运营和融资等事宜。前述谷歌程序员则称,Ilya是他心中的AI界牛顿。马斯克更是在5月一次采访中称,“Ilya的加入是OpenAI最终成功的关键。”uPQ哈希力量 | 消除一切智能鸿沟

Ilya Sutskever生于苏联,长于以色列,拥有加拿大国籍。他本科和博士在加拿大多伦多大学,师从“AI教父”Geoffrey Hinton,博士后去到美国斯坦福大学。在谷歌工作近三年后,他在2016年1月来到OpenAI担任科学主任,后升任首席科学家。uPQ哈希力量 | 消除一切智能鸿沟

Ilya Sutskever对AI的安全发展持有很强的观点,早在ChatGPT发布之前,Ilya Sutskever接受英国《卫报》采访时便提到“通用人工智能”(AGI)对人类社会可能的威胁。他把“通用人工智能”与人类的关系,同人类与动物的关系做对比,表示,人类不讨厌动物,还喜欢许多动物,但是当人类要造一条高速路时,不会向动物征求意见,因为高速路对人类很重要。“我认为,默认地,人类和通用人工智能的关系也将会这样。通用人工智能完全自动,按照自己的意愿行事。”uPQ哈希力量 | 消除一切智能鸿沟

独立董事Adam D’Angelo是线上问答社区Quora首席执行官,他也曾提到,向通用AI迈进需要安全意识。uPQ哈希力量 | 消除一切智能鸿沟

OpenAI在7月5日刚设立“超级人工智能对齐”的项目,“对齐”有“驾驭”之意,OpenAI预期到,当AI的智力比人高很多的时候,现有的驾驭技术(例如强化学习)就不管用了,因此,项目计划4年内通过科技突破,做到驾驭比人聪明得多的AI系统。OpenAI委任Ilya Sutskever和公司科学家Jan Leike公同主持项目,并将OpenAI截至当时获得的20%的计算用于项目。uPQ哈希力量 | 消除一切智能鸿沟

朱可亮指出,据OpenAI的董事会章程,董事会人数在1人至7人之间,这个规模对于OpenAI这样一家重要的公司来说实在太小,很容易让公司决策落入少数人手中,最后变成四个董事就能罢免公司CEO,左右公司生死的状况。uPQ哈希力量 | 消除一切智能鸿沟

朱可亮指出,在硅谷,董事会规模在10-15人的大公司比比皆是,甚至一些公司董事会人数接近20个,多元化的董事会能为公司决策提供稳定性,避免公司走极端。他指出,OpenAI“宫斗”将会影响未来投资者信心,因为首先公司治理就不稳定。uPQ哈希力量 | 消除一切智能鸿沟

员工侧,“OpenAI分给员工“虚股”,即“影子股份”(ghost share),员工虽拿到股份,但没有公司决策的投票权或公司的所有权,只有和股份对应的分红权,若公司盈利就可以分红。这种‘利润参与单位’(PPU)的分红机制在硅谷并不罕见,起到了公司的股权激励的基本作用。”朱可亮律师向财新介绍。uPQ哈希力量 | 消除一切智能鸿沟

高层变动直接触及员工利益。一名硅谷的谷歌程序员向财新提到,OpenAI员工规模本不大,但在ChatGPT推出后迅猛扩招,他所知谷歌和Meta的程序员也有被OpenAI“挖墙脚”,OpenAI给出的跳槽理由是,在“利润参与单位”(PPU)的激励机制下,趁OpenAI估值和收益更高之前,先来拿股份,然后坐等分红大涨。“如果你冲着更多分红去了OpenAI,结果发现,支持商业化的CEO被开除了,这样的结果是不理想的。”他说。uPQ哈希力量 | 消除一切智能鸿沟

微软也支持OpenAI员工“逼宫”,员工公开中信提到,“(我们)可能会选择从OpenAI辞职,并加入新宣布的由Sam Altman和Greg Brockman运营的微软子公司。微软向我们保证,所有OpenAI的员工在这个子公司都有职位,并且有选择加入的权力。”uPQ哈希力量 | 消除一切智能鸿沟

微软(NASDAQ: MSFT)的做法得到市场认可。截至美股11月20日收盘,微软股价上涨2.05%。相比之下,谷歌(NASDAQ: GOOGL)、亚马逊(NASDAQ: AMZN)和苹果(NASDAQ: AAPL)股价均上涨不到1%。uPQ哈希力量 | 消除一切智能鸿沟

“是推进商业化,还是坚守原本使命,这是OpenAI一直以来的矛盾。这个矛盾早在2018年就激化过,导致创始人之一的马斯克出走。”朱可亮指出,在技术发展上,硅谷一直有“急速推进”和“停下来思考”之争。uPQ哈希力量 | 消除一切智能鸿沟

《埃隆·马斯克传》曾写道,在OpenAI创立之初,马斯克和奥特曼讨论了一个目标,名为“人工智能对齐”,“想想《2001:太空漫游》中大开杀戒的计算机‘哈尔’直接与创造它的人类开战。在人工智能系统中,人类可以设置哪些防火墙和自毁开关,让机器的行动与我们的利益保持一致?谁又有资格决定这些攸关人类的利益是什么?”uPQ哈希力量 | 消除一切智能鸿沟

《埃隆·马斯克传》提到,马斯克决意在其各家公司中发展人工智能能力,这直接导致了2018年他与OpenAI的决裂。他试图说服奥特曼,OpenAI既然还是落后于谷歌,那就应该并入特斯拉发展。“OpenAI团队拒绝了这个想法,此时阿尔特曼已经是实验室的一把手,成立了一个能够筹集股权基金的营利性部门。”uPQ哈希力量 | 消除一切智能鸿沟

“而现在,OpenAI的冲突再次重演,奥特曼是否能回归,不得而知。董事会仍可选择将OpenAI变回一个非盈利组织,而工程师有权自决去留。”朱可亮说,“不过,在硅谷技术领域,极少有撕破脸的情况,乔布斯离开苹果12年后被请回来了。大家也可以好说好散。”uPQ哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/toutiao/redian/36141.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库