哈希力量归集文库路径访问: 首页 > 智族书院 > 力度副刊 • 生态圈

《纽约客》万字长文:微软如何应对突如其来的OpenAI混乱

天天说云 ☉ 文 来源:科技十点见 2023-12-02 @ 哈希力量

【小哈划重点:对Murati、OpenAI员工、微软而言,他们只能抓住最后一根稻草,启动C计划。】

编者按:本文将发表于2023年12月11日号《纽约客》印刷版,原文标题为“乐观主义者(The Optimists.)”,全文已经在网站刊发。全文完全翻译过来应该超过上万字,本文也超过5000字,其中省略翻译了原文中关于微软首席技术官凯文·斯科特(Kevin Scott)的成长经历,加盟微软的过程,以及他力促微软选定与OpenAI合作的故事(详细也可以看另一篇有关他的特写文章)以及OpenAI首席技术官Mira Murati的成长经历等,此外一些不影响全文核心观点的相关表述也被省略,全文链接附在了最后,可以自行深度阅读。OoS哈希力量 | 消除一切智能鸿沟

(原文地址:OoS哈希力量 | 消除一切智能鸿沟

https://www.newyorker.com/magazine/2023/12/11/the-inside-story-of-microsofts-partnership-with-openai?currentPage=all)OoS哈希力量 | 消除一切智能鸿沟

在感恩节前的那个周五,大约在上午11:30,微软首席执行官萨蒂亚·纳德拉(Satya Nadella)正在与高级领导人进行每周一次的例会,这时一个惊慌的同事告诉他接电话。OoS哈希力量 | 消除一切智能鸿沟

来自OpenAI的一位高管打来电话,解释说在未来20分钟内,公司的董事会将宣布开除OpenAI的首席执行官兼联合创始人山姆·阿尔特曼(Sam Altman)。OoS哈希力量 | 消除一切智能鸿沟

就这样,一场持续5天的危机开始了。OoS哈希力量 | 消除一切智能鸿沟

突如其来的混乱OoS哈希力量 | 消除一切智能鸿沟

纳德拉性格随和,但他震惊得一时不知道该说什么。OoS哈希力量 | 消除一切智能鸿沟

他与阿尔特曼合作了四年多,而且越来越欣赏和信任他。而且,他们的合作刚刚促成了微软十年来最大的发布:一系列尖端人工智能助手,这些助手基于OpenAI的技术构建,并集成到微软的核心生产力软件中,例如Word、Outlook和PowerPoint。这些助手本质上是OpenAI备受称赞的ChatGPT的特化和更强大的版本,被统称为Office Copilots。OoS哈希力量 | 消除一切智能鸿沟

然而,纳德拉并不知道,阿尔特曼和OpenAI董事会的关系变得紧张起来。董事会的六名成员中的一些人认为阿尔特曼狡猾而奸诈——这些品质在科技公司CEO中很常见,但对背景来自学术界或非营利组织的董事会成员来说很恼火。OoS哈希力量 | 消除一切智能鸿沟

“他们认为Sam撒谎了,”一位熟悉董事会讨论的人说。这些紧张局势现在在纳德拉面前爆发,威胁着双方至关重要的合作关系。OoS哈希力量 | 消除一切智能鸿沟

当纳德拉从阿尔特曼被解雇的震惊中恢复过来后,他打电话给OpenAI董事会成员Adam D’Angelo,试图了解细节。OoS哈希力量 | 消除一切智能鸿沟

但是Adam D’Angelo给出了同样模糊暧昧的解释,几分钟后这些解释出现在了新闻稿中:阿尔特曼在与董事会的沟通中“不够坦率”。阿尔特曼有过不当行为吗?没有。但是Adam D’Angelo没有透露更多信息。OoS哈希力量 | 消除一切智能鸿沟

纳德拉沮丧地挂断了电话。随后他打电话给微软首席技术官凯文·斯科特(Kevin Scott),他是促成OpenAI合作关系的最大责任人。OoS哈希力量 | 消除一切智能鸿沟

消息传播得很快,斯科特也知道了这个事情。他们与微软其他高管进行了视频通话,并相互询问,阿尔特曼被解雇是因为人工智能的创新速度与安全之间的紧张关系吗?毕竟当时,包括埃隆·马斯克和史蒂夫·沃兹尼亚克在内的数千人签署了一封公开信,呼吁暂停训练高级人工智能。OoS哈希力量 | 消除一切智能鸿沟

斯科特在某种程度上尊重他们的担忧。但他认为,人工智能能够用简单的语言与用户交谈,如果它的构建足够谨慎,并有足够的耐心,它可能会成为一股变革性的、平等的力量。OoS哈希力量 | 消除一切智能鸿沟

在与纳德拉的视频通话中,微软高管开始讨论应对Altman被解雇的可能应对措施。OoS哈希力量 | 消除一切智能鸿沟

计划A是试图通过支持OpenAI临时CEO Mira Murati来稳定局势,然后与她合作,看看这家初创公司的董事会是否会收回其决定,或者至少解释他们仓促的举动。OoS哈希力量 | 消除一切智能鸿沟

如果董事会拒不遵从,微软高管将实施计划B:利用他们公司巨大的影响力,包括承诺给OpenAI但尚未打款的数十亿美元,帮助Altman重新担任首席执行官并重塑OpenAI的治理结构,方法是更换董事会成员。OoS哈希力量 | 消除一切智能鸿沟

如果以上两种计划都失败,计划C是雇佣阿尔特曼及其最有天赋的同事,在微软内部重新建立OpenAI。OoS哈希力量 | 消除一切智能鸿沟

参与视频通话中的团队认为这三个选项都很有力。但是微软的目的还是让一切恢复正常。这种策略背后的信念是,微软已经搞清楚了开发负责任AI所需的方法、安全保障和框架中的一些重要内容。无论阿尔特曼发生了什么,公司都在根据自己的蓝图推进AI普及。OoS哈希力量 | 消除一切智能鸿沟

Copilot如何在微软逐渐发展壮大OoS哈希力量 | 消除一切智能鸿沟

2019年的一天,OpenAI副总裁Dario Amodei向他的同事展示了一件非同寻常的事情:他将软件程序的一部分输入到GPT中,并要求系统完成编码。它几乎立即做到了这一点。没有人能确切地说出人工智能是如何做到这一点的。OoS哈希力量 | 消除一切智能鸿沟

Scott和Murati在了解GPT的编程功能后感到有些焦虑,但主要是感到兴奋。他们一直在寻找人工智能的实际应用,人们实际上可能会付费使用。他们找到了GitHub。OoS哈希力量 | 消除一切智能鸿沟

5年前,微软收购了GitHub,其原因与它投资OpenAI的原因大致相同。GitHub的文化年轻且快速发展,不受传统和正统文化束缚。被收购后,它成为微软内部的一个独立部门,拥有自己的首席执行官和独立决策权。事实证明该策略是成功的,GitHub深受软件工程师的喜爱,其用户数量增长到了一亿多。OoS哈希力量 | 消除一切智能鸿沟

GitHub的首席执行官纳特·弗里德曼(Nat Friedman)说他想要这个工具。GitHub员工集体讨论了该产品的名称:Coding Autopilot、Automated Pair Programmer、Programarama Automat。弗里德曼是一名业余飞行员,他和其他人认为这些名称错误地暗示该工具可以完成所有工作。而这个工具更像是一个副驾驶——一个和你一起进入驾驶舱并提出建议的人,同时偶尔也会提出一些不合时宜的建议。通常你会听副驾驶的意见;有时你会选择忽略。OoS哈希力量 | 消除一切智能鸿沟

当斯科特听到弗里德曼最喜欢的名字——GitHub Copilot时,他很喜欢这个名字。斯科特说,“它完美地传达了它的优点和缺点。”OoS哈希力量 | 消除一切智能鸿沟

但当GitHub准备在2021年推出Copilot时,微软其他部门的一些高管提出抗议,认为该工具偶尔会产生错误,会损害微软的声誉。“这是一场激烈的战斗,”弗里德曼告诉我。“但我是GitHub的首席执行官,我知道这是一个很棒的产品,所以我发布了它。”OoS哈希力量 | 消除一切智能鸿沟

GitHub Copilot发布后立即获得了成功。微软开始对该应用程序每月收取10美元的费用;一年之内,年收入突破一亿美元。OoS哈希力量 | 消除一切智能鸿沟

但GitHub Copilot也引起了不太积极的反应。在留言板上,程序员推测这种技术可能会蚕食他们的工作,或者为网络不法分子提供支持,或者如果有人太懒或无知而在部署之前检查自动完成的代码,就会引发混乱。OoS哈希力量 | 消除一切智能鸿沟

GitHub和OpenAI的高管也注意到,使用该工具的人越多,他们对其功能和局限性的理解就越细致。“使用它一段时间后,你会对它擅长什么、不擅长什么产生直觉,”弗里德曼说。“你的大脑学会了如何正确使用它。”OoS哈希力量 | 消除一切智能鸿沟

2023年初,斯科特开始写一份题为“The Era of the A.I.Copilot”的内部备忘录,并将其发给微软的技术高管们。斯科特写道,微软已经找到了一个强有力的比喻来向世界解释这项技术:“副驾驶完全按照名字所暗示的那样做;它充当试图完成复杂任务的专家帮助者……副驾驶可以帮助用户了解其能力的局限性。”OoS哈希力量 | 消除一切智能鸿沟

当时,ChatGPT刚刚对外发布,它向大多数人介绍了人工智能,并将成为历史上增长最快的消费者应用程序。但斯科特可以预见即将发生的事情:机器和人类通过自然语言进行交互;人们,包括那些对代码一无所知的人,只是通过说出他们想要的东西,就可以让计算机进行编程。这就是他一直追求的公平竞争环境。OoS哈希力量 | 消除一切智能鸿沟

斯科特写道:“在我的职业生涯中,我从未经历过这样一个时刻:我所处的领域正在发生如此大的变化,重新构想可能性的机会如此现实且令人兴奋。”OoS哈希力量 | 消除一切智能鸿沟

斯科特的下一个任务是将GitHub Copilot的成功应用到微软最受欢迎的软件产品中。微软在引入人工智能技术上,有过失败的经历,包括1996年推出的功能很挫的Office产品“助手”Clippy,以及出现大量不当言论的Twitter上的人工智能聊天机器人Tay。OoS哈希力量 | 消除一切智能鸿沟

2022年,当斯科特和其他人开始推动将GPT-4集成到Word和Excel等程序中时,该公司已经花了相当多的时间思考人工智能如何处理这些问题。3年前,微软在内部成立了Responsible A.I.部门,这个部门配备了近350名程序员、律师和政策专家,专注造福人类社会的人工智能,并防止人工智能技术产生重大的不利影响。OoS哈希力量 | 消除一切智能鸿沟

Responsible A.I.部门是首批获得GPT-4副本的微软部门之一。他们开始与专家“红队”一起测试它的安全性。根据测试结果,微软有时会与OpenAI合作,通过为模型提供广泛的安全规则来增加更多的护栏。OoS哈希力量 | 消除一切智能鸿沟

同时,为了增加另一层保护,微软开始在数百台计算机上运行GPT-4,并设置它们相互对话,每台计算机都会进行数百万次交互对话,并发出指令让其他计算机说出一些不愉快的话。经过几个月的磨练,一个适合微软需求和态度的GPT-4版本出炉了。OoS哈希力量 | 消除一切智能鸿沟

2022年晚些时候,微软高管已准备好开始为Word、Excel和其他产品构建Copilot。但微软明白,正如法律不断变化一样,即使在产品发布之后,制定新保护措施的需求也会不断出现。OoS哈希力量 | 消除一切智能鸿沟

2023年初,微软准备发布首次将GPT-4集成到微软品牌产品中:搜索引擎Bing。集成人工智能技术的Bing受到热烈欢迎。Bing的下载量猛增了八倍,纳德拉开玩笑说他的公司打败了“800磅重的大猩猩”,以此来嘲讽谷歌。(尽管这项创新令人印象深刻,但就市场份额而言并没有多大意义:谷歌仍然占据90%以上的搜索份额。)OoS哈希力量 | 消除一切智能鸿沟

Bing只是一个微软议程上的一个开端。随后微软开始在其他产品中推出Copilot。OoS哈希力量 | 消除一切智能鸿沟

今年春天,当微软最终开始推出Copilots时,版本的发布是小心翼翼地错开的。最初,只有大公司才能使用这项技术;随着微软了解这些客户如何使用它并开发出更好的保护措施,它才会被提供给越来越多的用户。截至11月15日,已有数万人在使用Copilots,预计很快会有数百万人注册。OoS哈希力量 | 消除一切智能鸿沟

微软A\B\C应对计划先后启动OoS哈希力量 | 消除一切智能鸿沟

在纳德拉得知阿尔特曼被解雇并与斯科特和其他高管召开视频会议后不久,微软开始执行A计划:通过支持Murati担任临时首席执行官来稳定局势。同时试图查明董事会为何如此冲动行事。OoS哈希力量 | 消除一切智能鸿沟

他与Murati保持着频繁的联系,以了解她从董事会了解到的情况。OoS哈希力量 | 消除一切智能鸿沟

但是答案是:不多。OoS哈希力量 | 消除一切智能鸿沟

奥特曼被解雇的前一天晚上,董事会已将其决定告知Murati,并让她承诺保持沉默。他们认为她的同意意味着她支持解雇,或者至少不会与董事会抗争,而且他们还认为其他员工也会遵守规定。他们错了。OoS哈希力量 | 消除一切智能鸿沟

在内部,Murati和其他OpenAI高管表达了他们的不满,一些员工将董事会的行动描述为政变。OoS哈希力量 | 消除一切智能鸿沟

OpenAI员工向董事会成员提出了尖锐的问题,但董事会几乎没有回应。两位熟悉董事会想法的人士表示,由于保密限制,成员们不得不保持沉默。此外,随着阿尔特曼的下台成为全球新闻,董事会成员感到不知所措,“没法与包括微软在内的任何人进行接触”。OoS哈希力量 | 消除一切智能鸿沟

解雇后的第二天,OpenAI的首席运营官Brad Lightcap向全公司发送了一份备忘录,表示他了解到“董事会的决定并不是针对渎职行为或与我们的财务、业务、安全或保障相关的任何事情而做出的。”他接着说,“这是Sam和董事会之间沟通的障碍。”OoS哈希力量 | 消除一切智能鸿沟

在微软内部,他们认为整个事件看起来愚蠢得令人难以置信。据报道,截至目前,OpenAI的估值约为800亿美元。微软的一位高管表示,“除非董事会的目标是摧毁整个公司,否则他们每次做出决定时似乎都会莫名其妙地做出最糟糕的选择。”尽管其他OpenAI员工在格雷格·布罗克曼(Greg Brockman)的带领下公开辞职,但董事会仍然保持沉默。OoS哈希力量 | 消除一切智能鸿沟

A计划显然是失败的。因此,微软的高管们转向了B计划:纳德拉开始与Murati商议,看看是否有办法恢复阿尔特曼的首席执行官职位。OoS哈希力量 | 消除一切智能鸿沟

OpenAI员工威胁要反抗。Murati和这家初创公司的其他人在微软的支持下,开始敦促所有董事会成员辞职。最终,他们中的一些人同意离开,只要他们认为替代者可以接受。他们表示,他们甚至可能对奥特曼的回归持开放态度,只要他不是首席执行官,并且没有获得董事会席位。OoS哈希力量 | 消除一切智能鸿沟

到了感恩节前的那个周日,每个人都筋疲力尽了。OpenAI董事会邀请Murati单独加入他们进行私人谈话。他们告诉她,他们一直在秘密招聘一位新的首席执行官,并终于找到了愿意接受这份工作的人。OoS哈希力量 | 消除一切智能鸿沟

对Murati、OpenAI员工、微软而言,他们只能抓住最后一根稻草,启动C计划。OoS哈希力量 | 消除一切智能鸿沟

周日晚上,Nadella正式邀请阿尔特曼和布罗克曼领导微软内部的一个新的AI研究实验室,并提供他们想要的所有资源和尽可能多的自由。两人都接受了。微软开始为他们认为将加入该部门的数百名OpenAI员工准备办公室。OoS哈希力量 | 消除一切智能鸿沟

Murati和她的同事们写了一封公开信给OpenAI的董事会:“我们无法为那些缺乏能力、判断力且不关心我们使命和员工的人工作或与他们合作。”该信件的作者承诺辞职并“加入新成立的微软子公司”,除非所有现任董事会成员辞职并重新任命阿尔特曼和布罗克曼。几个小时内,几乎所有OpenAI员工都签署了这封信。OoS哈希力量 | 消除一切智能鸿沟

C计划以及OpenAI大规模离职的威胁足以让董事会态度软化。OoS哈希力量 | 消除一切智能鸿沟

感恩节前两天,OpenAI宣布阿尔特曼将重新担任首席执行官。除Adam D’Angelo外,所有董事会成员都将辞职,而更知名的人物——包括Facebook前高管、Twitter董事长布雷特·泰勒(Bret Taylor),以及前财政部长、哈佛大学校长拉里·萨默斯(Larry Summers)——将就任。OpenAI的高管同意对所发生的事情进行独立调查,包括阿尔特曼过去作为首席执行官的行为。OoS哈希力量 | 消除一切智能鸿沟

尽管C计划最初看起来很诱人,但微软高管后来得出的结论是,目前的情况是最好的结果。将OpenAI的员工转移到微软可能会导致成本高昂且浪费时间的诉讼,还可能引发政府调查。在新框架下,微软获得了OpenAI的无投票权的董事会观察员席位,使其在不引起监管审查的情况下获得了更大的影响力。OoS哈希力量 | 消除一切智能鸿沟

事实上,这出肥皂剧的结局被视为微软的巨大胜利,也是对其开发AI方法的有力认可。OoS哈希力量 | 消除一切智能鸿沟

一位微软高管表示:“阿尔特曼和布罗克曼真的很聪明,他们可以去任何地方。但他们选择了微软,所有那些OpenAI的人都准备选择微软,就像四年前选择我们一样。这极大地验证了我们建立的体系。他们都知道,这里是继续他们正在做的工作的最佳地点,最安全的地点。”OoS哈希力量 | 消除一切智能鸿沟

与此同时,被解雇的董事会成员坚称他们的行为是明智的。“将进行全面而独立的调查,我们将不会把Sam的一堆亲信留在董事会里,而是留下了那些能够直面他的人,”熟悉董事会讨论的人透露。OoS哈希力量 | 消除一切智能鸿沟

一些人工智能监督机构对结果并不感到特别满意。Hugging Face首席道德科学家Margaret Mitchell表示:“董事会解雇Sam时实际上是在履行职责。他的回归将产生寒蝉效应。我们将看到更少的人在公司内部发声,因为他们会认为自己会被解雇——而高层人士将更加不受问责。”OoS哈希力量 | 消除一切智能鸿沟

阿尔特曼则准备讨论其他事情。“我认为我们只需要继续执行良好的治理和良好的董事会成员,我们将进行这次独立审查,对此我非常兴奋,”“我只希望每个人都继续前进并感到快乐。我们将继续致力于我们的使命。”OoS哈希力量 | 消除一切智能鸿沟

让纳德拉和斯科特松了口气的是,微软的一切已经恢复正常,Copilots的广泛发布能够继续下去。OoS哈希力量 | 消除一切智能鸿沟

原文地址:OoS哈希力量 | 消除一切智能鸿沟

https://www.newyorker.com/magazine/2023/12/11/the-inside-story-of-microsofts-partnership-with-openai?currentPage=allOoS哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/xueyuan/shuji/36205.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库