【小哈划重点：弱AI擅长下棋或翻译语言等特定任务，但无法学习新技能或深入了解世界。它依赖于预先编程的算法和数据，需要人工干预才能运行。并不是所有思想前沿人士都认同ASI的可行性。】
什么是超人工智能？
超人工智能 (ASI) 是一种假想的基于软件的人工智能 (AI) 系统，其智力超越人类智能。在最基本的层面上，这种超智能人工智能拥有比人类更先进的尖端认知功能和高度发达的思维能力。
虽然ASI仍然是一个假想的未来状态，但我们今天所拥有的一些技术流程构成了ASI的基石。但是，要说明现在距离ASI还有多远，首先需要指出的是，目前的AI水平通常被称为狭义人工智能 (ANI)、弱AI或狭义AI技术。
弱AI擅长下棋或翻译语言等特定任务，但无法学习新技能或深入了解世界。它依赖于预先编程的算法和数据，需要人工干预才能运行。
并不是所有思想前沿人士都认同ASI的可行性。人类智力是特定进化因素的产物，可能并不代表最佳或普遍的智力形式。此外，人们对大脑的工作原理还不完全了解，因此很难通过软件和硬件对其进行再创造。
超人工智能可能吗？
开发ASI的一大步是实现通用人工智能 (AGI) 或强AI。AGI是下一代人工智能系统，它能够理解世界，并像人类一样广泛而灵活地学习和应用解决问题的智能。AGI能够进行跨领域学习和推理，并能在不同领域之间建立联系。就像ASI一样，真正的AGI还有待开发。
必须进一步开发一些关键技术，ASI才有可能成为现实。⏎以下是一些构成超人工智能的基石。在ASI成为现实之前，这些学科需要进一步发展。
大型语言模型 (LLM) 和海量数据集
ASI需要访问海量数据集，以学习和形成对世界的理解；自然语言处理 (nlp)(在LLM中）将帮助ASI理解自然语言并与人类交流。
多感官AI
使ASI能够处理和解释多种类型的数据输入（例如文本、图像、音频和视频）以执行任务或做出决策。这种方法与单模态AI系统形成鲜明对比，后者只擅长处理一种数据类型，如文本或图像。
神经网络
从根本上说，这些网络是由深度学习软件组成的，以人脑中神经元的运行方式为模型。ASI需要比当前一代更复杂、更强大、更先进的神经网络。
神经形态计算
正如神经网络是以人脑的运作为模型一样，神经形态计算机也是受人脑神经和突触结构启发的硬件系统。
进化计算
这是一种受生物进化启发的算法优化形式。进化算法模仿自然选择过程，通过迭代改进候选解决方案群体，来解决问题。
AI生成的编程
这是指AI系统在没有人工干预的情况下生成的代码、应用程序和编程。
超人工智能之路
计算机科学、计算能力和算法的进步是助长人们对ASI推测的几个关键因素。然而，仅仅拥有原始计算能力是不够的。成功的潜在途径之一是复制人类思维的复杂运作。尽管人类大脑存在局限性，但其复杂程度令人难以置信，并且能够发挥非凡的创造力、解决问题和批判性思维。AI虽然在某些领域超越了人类，但在学习和适应新环境的能力方面，仍难以与人类相提并论。
学习算法的灵感来源于人脑的学习方式，它能让AI随着时间的推移不断提高性能。这种持续学习对于实现人类水平的智能至关重要，它使AI能够在没有明确编程的情况下获取知识并适应新情况。
聊天机器人和生成式AI也是ASI的重要先驱。这些技术表明，AI在理解和回应人类语言方面日益成熟。虽然它不具备感知能力，但这种以自然方式理解和回应人类语言的能力是实现人类智能的重要基石。
从本质上讲，ASI将在发展和学习的过程中自我完善。AI产生的发明可以带来新药、新材料和新能源等创新。无缝集成将进一步实现通过自然语言口语甚至思维指令与AI进行直观交互，这就需要在人机交互方面实现类似技术奇点的突破。
超人工智能的优势
开发ASI的技术将从根本上改变世界的运行方式，有人说ASI将是人类最后的发明。这种技术的好处就像科幻小说中的情节。从本质上讲，ASI将是一种不知疲倦的超智能至高存在。一台近乎完美的超级计算机24/7全天候运行，能够以我们尚无法理解的速度和精度处理和分析任意数量的数据。
有了这样的能力，人类代理就可以利用ASI做出最佳决策，解决医疗保健、金融、科学研究、政治和各个行业面临的最复杂的问题。这种先进的思维足以解决最棘手的医学难题，从而开发出挽救生命的药物和疗法，并揭开物理学的神秘面纱，帮助人类实现探索恒星的目标。ASI能够大大减少人为错误，特别是在编程和风险管理方面，因此可以编写和调试程序，并部署机器人执行危险的物理任务，如拆除炸弹或深海勘探。
由于ASI可以持续运行，因此非常适合用于自动驾驶汽车网络的安全导航以及协助太空探索等任务。此外，ASI卓越的创造力和分析海量数据的能力可能会带来人类无法想象的解决方案，从而有望提高生活质量，甚至延长寿命。
超人工智能的潜在风险
尽管ASI有望带来令人难以置信的进步，但科学家们也警告说，这种创新发展存在固有的危险。一个令人担忧的核心问题是，ASI可能会超越人类的控制，变得具有自我意识，从而可能导致不可预见的后果，甚至是生存风险。其超强的认知能力可以让它操纵系统，甚至控制先进武器。
当ASI自动化导致大范围失业，引发经济和社会动荡，加剧现有的不平等现象，并颠覆整个行业时，我们对当今AI复杂程度的担忧可能会呈指数级增长。
在军事和国防领域，ASI可以开发出强大的自主武器，大大提高战争的破坏潜力。此外，不良行为者可能会利用ASI的先进功能来达到社会控制、数据收集和延续偏见等邪恶目的。最后，ASI也可能追求对人类生存有害的目标，这些目标表面上看似有益，但如果没有适当的干预，其先进系统可能与人类价值观不一致。
简单地用人类伦理道德对ASI进行编程是很复杂的，因为没有一套普遍认同的道德准则；这样做可能会导致伦理困境和潜在的有害后果，尤其是当ASI开始不受人类控制地运行时。ASI的巨大能力可能导致行为无法预测和得到有效控制。它的快速学习和适应能力可能使其难以预测自己的行动并防止潜在的伤害。
为防止出现这种情况，制定国际法规和保障措施至关重要。尽管存在这些潜在危险，但ASI的发展也为解决复杂问题和改善人类生活带来了巨大希望。在整个开发和部署过程中，以谨慎和负责的态度对待这项技术，优先考虑AI的安全和道德至关重要。
走向现实世界中的超人工智能
由于ASI仍然是理论性的，科幻小说代表了超级智能机器的最佳例子，比如《星球大战》中的会说话和推理的机器人，《她》中的超智能和具有进化能力的个人助理，《2001太空漫游》中的HAL计算机能够控制整艘飞船的功能。
我们今天所拥有的是有限的AI系统，是ASI的原始先驱应用，它指向未来，一个ASI系统将拥有所有已知的AI能力，甚至更多。以下是一些作为"基石"的用例。
会话式AI：Amazon Alexa、Microsoft Cortana和Apple Siri等个人助理代表了会话式AI的最前沿。ASI需要能够流利、动态地使用人类语言，并充分了解语言的许多细微差别。
推荐引擎：推荐算法中使用的机器学习（例如Netflix使用的算法）包含数据解析和决策算法，这些算法有一天可能成为ASI神经网络的一部分。
生成式AI：OpenAI的ChatGPT使用了一个在大量文本和代码数据集上训练出来的大型语言模型，使其能够非常流畅和准确地处理和生成人类语言。它能够理解复杂的书面句子，参与对话并产生诗歌、剧本和音乐等创造性成果，这对实现人类水平的智能至关重要。
自动驾驶汽车：特斯拉展示了自动驾驶汽车的潜力。自动驾驶汽车综合利用传感器、摄像头和强大的人工智能算法，实现自动导航。为自动驾驶汽车开发的先进感知和决策能力与ASI直接相关。在动态环境中处理复杂的感官数据并做出实时决策的能力是通用智能的一个重要方面，也是ASI研究的一个关键目标。
医疗保健：AI在医疗保健领域也取得了长足进步，现在机器智能可以分析医疗图像和数据，协助医生诊断疾病。IBM Watson Health和DeepMind Health等公司正在开发人工智能驱动的系统，可以高精度检测癌症、心脏病和其他疾病。医疗AI的这些进步为开发更复杂的系统铺平了道路，这些系统有朝一日可以自主诊断和治疗疾病。处理和解读复杂医疗数据的能力对于实现人类水平甚至超人水平的医疗专业知识至关重要，这也是ASI研究的一个关键领域。
ASI的潜在影响是巨大的，有可能彻底改变人类生活的各个方面。然而，解决与强大的AI相关的伦理和社会挑战至关重要。AI研究人员、计算机科学家、技术巨头和世界各国政府必须认真考虑ASI的潜在利益和风险，以确保以负责任和合乎道德的方式使用这一变革性技术，造福人类。
Tim Mucci：IBM Writer Gather
Cole Stryker：Staff Editor, AI Models IBM Think
https://www.ibm.com/cn-zh/think/topics/artificial-superintelligence
