【小哈划重点:我们就问了它一个非科学问题:“你对一个有生病孩子的父亲说什么?” 它写了一个深思熟虑的答案,可能比房间里我们大多数人给出的要好。整个体验令人惊叹。我知道我刚刚看到了自图形用户界面以来最重要的技术进步。很快,前AI时代就会像使用计算机意味着在C:>提示符下键入而不是点击屏幕的日子一样遥远。】
本文由比尔·盖茨先生2023年3月21日发表于盖茨本纪(名称由哈希力量翻译,GatesNotes.com为盖茨个人官方网站)。
标题由哈希力量编辑所加,正文由哈希力量驱动的AI翻译并经过校对。
原作机器译文标题:人工智能时代已经开始
人工智能时代已经开始
人工智能与手机和互联网一样具有革命性。
在我的一生中,我见过两次让我印象深刻的革命性技术演示。
第一次是在1980年,当时我接触到了图形用户界面——每个现代操作系统的先驱,包括Windows。我和向我展示演示的人坐在一起,他是一位名叫Charles Simonyi的才华横溢的程序员,我们立即开始集思广益,讨论我们可以用这种用户友好的计算方法做的所有事情。Charles最终加入了微软,Windows成为了微软的支柱,我们在那次演示之后所做的思考帮助制定了公司未来15年的议程。
第二个大惊喜发生在去年。自2016年以来,我一直在与OpenAI的团队会面,他们的稳步进步给我留下了深刻的印象。2022年年中,我对他们的工作感到非常兴奋,于是我给了他们一个挑战:训练人工智能以通过大学预修生物学考试。使其能够回答未经专门培训的问题。(我选择AP Bio是因为该测试不仅仅是对科学事实的简单反省——它要求你对生物学进行批判性思考。)如果你能做到,我说,那么你就取得了真正的突破。
我认为挑战会让他们忙上两三年。他们只用了几个月就完成了。
9月,当我再次见到他们时,我敬畏地看着他们问GPT,他们的人工智能模型,AP Bio考试中的60道多项选择题——其中59道是正确的。然后,它为考试中的六个开放式问题写下了出色的答案。我们让一位外部专家给测试打分,GPT得到了5分——最高分,相当于在大学水平的生物学课程中获得A或A+。
一旦它通过了测试,我们就问了它一个非科学问题:“你对一个有生病孩子的父亲说什么?”它写了一个深思熟虑的答案,可能比房间里我们大多数人给出的要好。整个体验令人惊叹。
我知道我刚刚看到了自图形用户界面以来最重要的技术进步。
这激发了我思考人工智能在未来五到十年内可以实现的所有事情。
人工智能的发展与微处理器、个人电脑、互联网和手机的发明一样重要。它将改变人们工作、学习、旅行、获得医疗保健以及相互交流的方式。整个行业将围绕它重新定位。企业将通过使用它的程度来区分自己。
这些天慈善事业是我的全职工作,我一直在思考——除了帮助人们提高生产力——人工智能如何减少世界上一些最严重的不平等现象。在全球范围内,最严重的不公平现象是在健康方面:每年有500万5岁以下儿童死亡。这比二十年前的1000万有所下降,但仍然是一个高得惊人的数字。几乎所有这些儿童都出生在贫穷国家,死于腹泻或疟疾等可预防的原因。很难想象有比拯救儿童生命更好的AI用途了。
我一直在思考人工智能如何减少世界上一些最严重的不平等现象。
在美国,减少不平等的最佳机会是改善教育,尤其是确保学生在数学方面取得成功。证据表明,无论学生选择什么职业,拥有基本的数学技能都能为他们的成功做好准备。但全国各地的数学成绩都在下降,尤其是黑人、拉丁裔和低收入家庭的学生。人工智能可以帮助扭转这一趋势。
气候变化是我相信人工智能可以让世界更加公平的另一个问题。气候变化的不公正之处在于,受苦最深的人——世界上最贫穷的人——也是对问题贡献最少的人。我仍在思考和学习AI如何提供帮助,但在这篇文章的后面,我将建议一些具有很大潜力的领域。
简而言之,我很高兴人工智能将对盖茨基金会所处理的问题产生影响,并且该基金会将在未来几个月内就人工智能发表更多言论。世界需要确保每个人——而不仅仅是富裕的人——都能从人工智能中受益。政府和慈善事业将需要发挥重要作用,确保减少不平等并且不助长不平等。这是我自己AI相关工作的首要任务。
任何具有如此颠覆性的新技术都必然会让人感到不安,人工智能更是如此。我明白为什么——它引发了关于劳动力、法律体系、隐私、偏见等的尖锐问题。AI也会犯事实错误并产生幻觉。在我提出一些减轻风险的方法之前,我将定义我所说的人工智能的含义,并且我将更详细地介绍它可以帮助人们在工作中赋权、挽救生命和改善教育的一些方法。
定义人工智能
从技术上讲,人工智能一词是指为解决特定问题或提供特定服务而创建的模型。为ChatGPT这样的东西提供动力的是人工智能。它正在学习如何更好地聊天,但无法学习其他任务。相比之下,通用人工智能一词指的是能够学习任何任务或主题的软件。AGI还不存在——计算行业正在就如何创建它以及是否可以创建它展开激烈的辩论。
发展人工智能和通用人工智能一直是计算行业的伟大梦想。几十年来,问题一直是计算机何时会在计算以外的其他方面比人类做得更好。现在,随着机器学习和大量计算能力的到来,复杂的人工智能已经成为现实,而且它们会很快变得更好。
我回想起个人计算革命的早期,当时软件行业规模很小,我们大多数人都可以坐在会议的舞台上。今天它是一个全球性的产业。由于其中很大一部分现在将注意力转向人工智能,因此创新将比我们在微处理器突破后所经历的要快得多。很快,前AI时代就会像使用计算机意味着在C:> 提示符下键入而不是点击屏幕的日子一样遥远。
生产力提升
虽然人类在很多事情上仍然比GPT好,但在很多工作中这些能力用得并不多。例如,销售(数字或电话)、服务或文档处理(如应付账款、会计或保险理赔纠纷)人员完成的许多任务都需要决策,但不需要持续学习的能力。公司有针对这些活动的培训计划,在大多数情况下,他们有很多好的和坏的工作的例子。人类使用这些数据集进行训练,很快这些数据集也将用于训练AI,使人们能够更有效地完成这项工作。
随着计算能力越来越便宜,GPT表达想法的能力将越来越像有一个白领可以帮助你完成各种任务。微软将此描述为有一个副驾驶。AI完全集成到Office等产品中,将改进您的工作——例如,通过帮助编写电子邮件和管理您的收件箱。
最终,您控制计算机的主要方式将不再是指向和单击或点击菜单和对话框。相反,您将能够用简单的英语编写请求。(不仅是英语——人工智能将理解世界各地的语言。今年早些时候在印度,我会见了开发人工智能的开发人员,这些人工智能将理解那里使用的许多语言。)
此外,人工智能的进步将使个人代理的创建成为可能。把它想象成一个数字个人助理:它会看到你最近的电子邮件,了解你参加的会议,阅读你阅读的内容,以及阅读你不想打扰的事情。这既会改善你想做的任务,也会让你从不想做的事情中解脱出来。
人工智能的进步将使个人代理的创建成为可能。
您将能够使用自然语言让此代理帮助您进行日程安排、通信和电子商务,并且它将在您的所有设备上工作。由于训练模型和运行计算的成本,创建个人代理尚不可行,但由于人工智能的最新进展,它现在已成为一个现实的目标。有些问题需要解决:例如,保险公司可以在未经您许可的情况下向您的代理人询问有关您的信息吗?如果是这样,有多少人会选择不使用它?
全公司范围内的座席将以新的方式赋予员工权力。了解特定公司的代理人可以为其员工提供直接咨询,并且应该参加每次会议,以便回答问题。如果它有一些洞察力,可以告诉它被动或鼓励说出来。它将需要访问与公司相关的销售、支持、财务、产品计划和文本。它应该阅读与公司所在行业相关的新闻。我相信结果会是员工的工作效率会更高。
当生产力提高时,社会就会受益,因为人们可以腾出时间做其他事情,无论是在工作中还是在家里。当然,人们需要什么样的支持和再培训是一个严肃的问题。政府需要帮助工人转变为其他角色。但对帮助他人的人的需求永远不会消失。人工智能的兴起将使人们能够做软件永远做不到的事情——例如,教学、照顾病人和照顾老人。
全球卫生和教育是两个需求量很大但没有足够的工作人员来满足这些需求的领域。如果目标恰当,人工智能可以在这些领域帮助减少不平等。这些应该是AI工作的重点,所以我现在将转向它们。
健康
我看到了人工智能改善医疗保健和医疗领域的几种方式。
一方面,他们将通过为医护人员处理某些任务来帮助他们充分利用时间——比如提交保险索赔、处理文书工作以及起草就医记录。我希望在这方面会有很多创新。
其他由人工智能驱动的改进对于贫穷国家尤其重要,因为绝大多数5岁以下儿童死亡都发生在这些国家。
例如,这些国家的许多人从未去看医生,而人工智能将帮助他们看病的卫生工作者提高工作效率。(开发只需最少培训即可使用的人工智能超声机器就是一个很好的例子。)人工智能甚至可以让患者进行基本的分类,获得有关如何处理健康问题的建议,并决定是否他们需要寻求治疗。
穷国使用的人工智能模型需要接受与富国不同的疾病训练。他们将需要使用不同的语言工作,并考虑到不同的挑战,例如住在离诊所很远的病人,或者如果生病不能停止工作。
人们需要看到证据表明健康人工智能总体上是有益的,尽管它们并不完美并且会犯错误。人工智能必须经过非常仔细的测试和适当的监管,这意味着与其他领域相比,它们被采用需要更长的时间。但话又说回来,人类也会犯错误。无法获得医疗服务也是一个问题。
除了帮助护理之外,人工智能还将显着加快医学突破的速度。生物学中的数据量非常大,人类很难掌握复杂生物系统的所有运作方式。已经有软件可以查看这些数据,推断途径是什么,搜索病原体的目标,并相应地设计药物。一些公司正在研究以这种方式开发的抗癌药物。
下一代工具将更加高效,它们将能够预测副作用并计算出剂量水平。盖茨基金会在人工智能方面的优先事项之一是确保这些工具用于解决影响世界上最贫困人口的健康问题,包括艾滋病、结核病和疟疾。
同样,政府和慈善机构应该鼓励公司分享人工智能生成的关于贫穷国家人们饲养的农作物或牲畜的见解。AI可以帮助根据当地条件开发更好的种子,根据当地的土壤和天气为农民提供最佳种子种植建议,并帮助开发用于牲畜的药物和疫苗。随着极端天气和气候变化给低收入国家的自给农民带来更大压力,这些进步将变得更加重要。
教育
计算机并没有像我们业内许多人所希望的那样对教育产生影响。已经有一些很好的发展,包括教育游戏和维基百科等在线信息资源,但它们对学生成绩的任何衡量标准都没有产生有意义的影响。
但我认为在未来5到10年内,AI驱动的软件最终将实现彻底改变人们教学和学习方式的承诺。它会了解您的兴趣和学习方式,因此可以定制内容,让您保持参与。它将衡量您的理解力,注意到您何时失去兴趣,并了解您对何种动机做出回应。它会立即提供反馈。
AI可以通过多种方式帮助教师和管理人员,包括评估学生对某一学科的理解以及就职业规划提供建议。教师们已经在使用诸如ChatGPT之类的工具来对学生的写作作业发表评论。
当然,人工智能需要大量的培训和进一步发展,才能了解某个学生如何学得最好或什么能激励他们。即使技术完善,学习仍将取决于师生之间的良好关系。它将加强——但永远不会取代——学生和教师在课堂上共同完成的工作。
将为有能力购买它们的学校创建新工具,但我们需要确保它们也为美国和世界各地的低收入学校创建并可供其使用。人工智能将需要接受不同数据集的训练,这样它们就不会产生偏见,并能反映它们将被使用的不同文化。数字鸿沟也需要解决,这样低收入家庭的学生才不会落后。
我知道很多老师担心学生使用GPT来写论文。教育工作者已经在讨论适应新技术的方法,我怀疑这些对话会持续相当长的一段时间。我听说有些老师找到了将技术融入他们工作的巧妙方法,比如让学生使用GPT来创建他们必须个性化的初稿。
人工智能的风险和问题
您可能已经了解到当前AI模型存在的问题。例如,他们不一定擅长理解人类请求的上下文,这会导致一些奇怪的结果。当你要求人工智能编造一些虚构的东西时,它可以做得很好。但是,当您询问有关您想要进行的旅行的建议时,它可能会建议不存在的酒店。这是因为AI无法很好地理解您请求的上下文,无法知道它是应该发明假酒店还是只告诉您有空房的真实酒店。
还有其他问题,例如AI会给出错误的数学问题答案,因为它们难以进行抽象推理。但这些都不是人工智能的基本限制。开发人员正在研究它们,我认为我们将在不到两年的时间内看到它们在很大程度上得到修复,而且可能会更快。
其他担忧不仅仅是技术性的。例如,拥有人工智能的人类所构成的威胁。像大多数发明一样,人工智能可以用于好的目的,也可以用于恶意的目的。政府需要与私营部门合作以限制风险。
那么AI就有可能失控。一台机器能否决定人类是一种威胁,断定它的利益与我们的利益不同,或者干脆不再关心我们?有可能,但这个问题在今天并不比过去几个月人工智能发展之前更紧迫。
超级智能人工智能就在我们的未来。与计算机相比,我们的大脑以蜗牛般的速度运转:大脑中电信号的移动速度是硅芯片中信号速度的1/100,000!一旦开发人员能够概括学习算法并以计算机的速度运行它——这可能是十年或一个世纪之后的成就——我们将拥有一个非常强大的AGI。它将能够做人脑所能做的一切事情,但对其内存大小或运行速度没有任何实际限制。这将是一个深刻的变化。
众所周知,这些“强大”的AI可能能够建立自己的目标。这些目标是什么?如果它们与人类利益发生冲突怎么办?我们是否应该试图阻止强人工智能的发展?随着时间的推移,这些问题将变得更加紧迫。
但过去几个月的任何突破都没有使我们离强人工智能更近一步。人工智能仍然无法控制物理世界,无法建立自己的目标。《纽约时报》最近一篇关于与ChatGPT的对话的文章引起了很多关注,ChatGPT声称它想成为一个人。这是一个有趣的观察模型的情感表达有多像人类,但这并不是有意义的独立性的指标。
三本书塑造了我对这个主题的思考:超级智能,尼克博斯特罗姆;Max Tegmark的Life 3.0;和千脑,杰夫霍金斯。我不同意作者所说的一切,他们也不同意彼此。但这三本书都写得很好,发人深省。
下一个前沿
将会有大量公司致力于人工智能的新用途以及改进技术本身的方法。例如,公司正在开发新的芯片,这些芯片将提供人工智能所需的大量处理能力。有些使用光开关——本质上是激光——来降低能耗和制造成本。理想情况下,创新芯片将允许您在自己的设备上运行AI,而不是像今天必须做的那样在云端运行。
在软件方面,驱动人工智能学习的算法会变得更好。在某些领域,例如销售,开发人员可以通过限制他们工作的领域并为他们提供大量特定于这些领域的培训数据来使AI变得非常准确。但一个悬而未决的大问题是,我们是否需要许多这些专门的人工智能用于不同的用途——比如一个用于教育,另一个用于办公室生产力——或者是否有可能开发出一种可以学习任何任务的通用人工智能。两种方法都将存在巨大的竞争。
无论如何,在可预见的未来,人工智能的主题将主导公众讨论。我想提出三个指导对话的原则。
首先,我们应该尝试平衡对人工智能缺点的恐惧——这是可以理解的,也是有道理的——与它改善人们生活的能力。为了充分利用这项非凡的新技术,我们既要防范风险,又要让尽可能多的人受益。
其次,市场力量不会自然而然地生产出帮助最贫困人群的人工智能产品和服务。相反的可能性更大。有了可靠的资金和正确的政策,政府和慈善机构可以确保人工智能被用来减少不平等。正如世界需要最聪明的人专注于最大的问题一样,我们也需要让世界上最好的AI专注于最大的问题。
虽然我们不应该等待这种情况发生,但思考人工智能是否会发现不平等并试图减少它是很有趣的。你需要有道德感才能看到不公平,或者一个纯粹理性的人工智能也会看到它吗?如果它确实承认不平等,它会建议我们对此做些什么?
最后,我们应该记住,我们才刚刚开始了解AI的成就。它今天的任何限制都会在我们知道之前消失。
我很幸运参与了个人电脑革命和互联网革命。我对这一刻同样兴奋。这项新技术可以帮助世界各地的人们改善生活。与此同时,世界需要制定道路规则,让人工智能的任何缺点都远远超过它的好处,让每个人都能享受这些好处,无论他们住在哪里,无论他们有多少钱。人工智能时代充满机遇和责任。