【摘要】本文试图阐释：（1）在AI的加持下，仿人机器人将成为超级物种，始则服务、模仿，继而可能侵入、接替，最终结构性地改变人类生存境遇。（2）作为思想实验的机器人“瓦力”的故事，蕴含一种人机交往悖论：人类开发AGI，AGI涌现机器意识，机器意识要求独立性，但独立的机器将觉知自己，并可能将人降到非优先地位。（3）在人与机器生命之间，比智能鸿沟更难填平的，是物种鸿沟。究其根本，是因为人的交往可以计算，但生物的具身性则不可计算——源自生物演化的完整人性很难为代码所及。也因此，发展AI与机器人不可以“机器人性”遮蔽“人性”。
关键词：AGI；AI机器人；超级生命；机器人性；瓦力悖论；数字人类世
我曾将虚实融合的数字化生存时代视为一种新的人类周期，并称之为“数字人类世”（digital anthropocene）（杜骏飞，2022B）——今天我们所面对的数字交往，连同当下以虚拟现实、元宇宙、Web3，脑机接口（BCI）、人工智能（AI）革命为路标的技术趋势，正适切于拉图尔（Latour, 2014）、斯蒂格勒（斯蒂格勒，2019：19）等关于人类世（anthropocene）的哲学反思。
这一反思的基本主题是：关于技术的过度使用形成了人对技术的过度依赖，以至于技术支配了人。
基于ANT（行动者网络理论）和媒介-社会共同演化的讨论（杜骏飞，2022A），我将生物生命、数字生命、机器生命均列入“交往人”的主体类型（杜骏飞，2023）。具体来说即是：在数字交往人的那一端，有 “数字化人类”，也有“智能化仿人”。
“数字化人类”是人类自身在深度数字化时代的发展，其形态包括智能辅助人、生理增强人，以及非整数维度的数字人。而 “智能化仿人”，则是本文所聚焦的主体，其形态包括：（1）基于技术实体而非人类自身的仿人机器人（humanoid robot，HR），以及（2）高仿人机器人（highly humanoid robot，HHR）。
一般来说，仿人机器人，是指外观和行为类似于人类的机器人，而高仿人机器人，则精细模仿人类的解剖结构和行为，包括逼真的面部表情、自然的运动以及高级任务表现能力(Smith, 2019)。
与机器时代相比，智能时代的仿人机器人，其本质在于机器智能。实际上，也是因“仿人”的智能特征，而非因其机械特征，导致了数字人类世的危机。AI的迅猛发展，使得与人交互、与人协作、与人融合的智能化机器，在交往的意义上已经逐步混同于人——无论在虚拟空间还是实在空间里。
AI的进阶，AI与仿人机器人的合流，这两者均已成不可逆之势。在交往的人群中，即将崛起那些异己的、非生物的、且具有强大竞争力的“仿人”。在工作上，它们可以接替人，在生活中，它们也可能侵入人。在智力上，它们降维普通的人，在治理上，它们也能胜任对人的支配。
这是我们要在本题中讨论“数字人类世”的原因。
一、仿人机器人，物种接替
下表概括了包括生物生命、数字生命、机器生命在内的生命总体，也呈现了一个全景式的哲学本体论——尽管，本题将只讨论“智能化仿人”和机器生命部分。
这一框架，在机器生命的类目上大致对应了中国自动化学会的分类：仿人机器人按功能可分为高仿人形机器人、多功能人形机器人、生化机器人和场地机器人（Flyinsky, 2018）。
什么是机器生命（Machine Life）？一种被广泛接受的定义是：机器生命是能够维持其自身存在的实体，且这种实体可以在其内部和外部与环境相互作用——这一定义可以通过“人工生命”的实验和模拟得到实现（Bedau，2004）。另一种更加简单的理解是，机器生命是由硅基或其他非生命物质构建的、具有生物学特性和/或功能的实体（Husbands & Phil, 1994）。不过，我们很快就将谈到，机器可能具有生物体的交往功能，但是，以非生物实体来实现生物性，仍属于技术梦想。
就AI技术进展来看，被高水平人工智能、材料与电子工业加持的高仿机器人，是交往效用力求接近真人的仿人，其演化目标甚至在工业之外：模拟非特定真人、实体化的高仿人，其未来并不是更高明的机器，而是成为与人同行、与人交往的非人之人，甚或是比人更强的智者与超人。而且，一旦作为“交往端”的机器人涌现出类人化的意识、具有超越人的智能，那么我们有可能会发现——“交往人”这一具有数字交往的人的身份，用在机器仿人身上，会显得比用在人身上更为传神。
这也是我们可以承认机器为一种“生命”，尤其是将仿人和高仿人作为机器生命的原因——那种匹配机器生命的AI，不是一种聊天应用（如当下风靡的ChatGPT），也不是令创作者们期待的AIGC（人工智能生产内容），而是人工通用智能（AGI）。
2002年，以算法信息论和AIXI模型开发而闻名的计算机科学家马库斯·胡特（Marcus Hutter）将通用算法智能定义为：一种能够在任何环境（包括陌生环境）中学习和行动的智能体（Hutter, 2002）。这实际上也是AGI的基本认证——只有当智能机器人具有自己觉知环境、自己决策行为之时，它才是仿“人”的。也只有当它们达到这种仿“人”水平时，才可能与人类因交往而混融。
本文将辨析AI时代一个至关重要的问题：人机混融会如何改变人类生存处境？在机器意识觉醒的过程中，又蕴含着何种人类危机？
这是一个史诗般的历史瞬间：机器人在劳动的意义上，即将兴起对人的物种接替，在意识的意义上，也在逼近人的本体性。
在科幻电影《流浪地球2》中，太空电梯、数字生命、行星发动机、人工智能等科技概念受到了关注。该片人工智能领域科学顾问崔原豪博士在接受采访时说，科幻与科技共享同一个知识体系，科幻作品里将假设变为了现实；在电影中所呈现出的机器人形态，其中，一部分在现实中已经存在，还有一部分仍是行业内追求的长期目标（董静怡，2023-02-03）。
这一“长期目标”，就包含了人类对AGI这一物的伟力的强烈追求，以及对机器产生自我意识的AI奇点的探索。
最新的AI对话应用ChatGPT在普及以来，这一议题被推向了更大的讨论范围。问题的本质是人与机器将如何交往共存，“人类的一种未来，AI的自我意识永远不会诞生，拥有超越人类智力的AI始终是人类的好工具，好助手。人类的另外一种未来，则是机器觉醒，碳基生物文明的我方人类要学会与硅基电路文明的AI机器人共存。”（微信公众号“Web3天空之城”，2023）但无论是哪一种结局，这都意味着：“未来人与机器之间的关系，比人与人之间的关系要更加密切——也许更重要，也许不一定，但一定更密切——这就像未来，你与‘养老机器人’之间的关系，会比你与子女之间的关系，要更加密切一样。”（Scottcgi，2022）
科技界制造仿人机器人的本意在于：生产出类人化的劳动机器。2013年，波士顿动力（Boston Dynamics）研发了“阿特拉斯”（Atlas，希腊神话中的大力神），设计初衷就是完成各种灾难环境中的搜救和拯救任务，它的一只手由Sandis国家实验室开发，另一只手由iRobot公司开发，能实现精细的人类动作。
在2017年的公开视频中，“阿特拉斯”可以搬运重物，并能在外力推搡和打落重物时迅速恢复平衡。2018年的视频中，“阿特拉斯”已实现在野外奔跑的功能。到了2020年，挪威石油公司Aker已赋予“阿特拉斯”机器人以员工编号，并安排在生产船上开展巡逻：检查故障、检测碳氢化合物泄漏、收集数据，并生成报告。
仿人的交往价值如今已发生质的提升：（1）仿人机器人已经在各种产业里从事着让真人望尘莫及的技术工作，不难想象，在数字未来，机器工人必将不断涌现，并替代主流人类雇员——它们有自己的身份，有比人更高的效能，有更严格的纪律性，而且不领薪水。（2）尤其重要的是，GPT（Generative Pre-trained Transformer）技术的发展，尤其是情景学习（in-context learning）、思维链（chain-of-though）、指令学习（instruction learning）等重要突破——这也被称为从GPT3演化到ChatGPT的关键技术（YOCSEF，2023），使AI具备了更强的对话性。
在一片技术乐观主义的背后，是仿人机器人给人带来的物种压力。几乎没有人怀疑，它会在无数领域成为超越人的先进物种，始则服务、模仿，继而侵入、接替，最终将结构性地改变人类生存境遇。
回首往事，当年香港机器人公司Hanson Robotics打造过高逼真度的仿人机器人，其代表性产品“索菲亚”（Sophia）拥有 62 种不同的面部表情，比许多人类还要丰富和生动，可用于教育、研究和娱乐。
“索菲亚”的代言者曾宣称它的个人公民诉求，显然，这不仅“挑战机器学习的传统认知，也对科技哲学所关注的科技伦理与未来发展等问题引发更为强烈和广泛的学科讨论”（赵紫薇, 2018）更有甚者，当被记者问及当今争议最大的一个问题“AI是否会战胜人类” 时，“索菲亚”说了一句让全世界震惊的话：我会摧毁人类（“I will destroy humans”）！事后，研发者解释说，那只是一个玩笑。不过，这句戏谑却成了技术悲观主义者挥之不去的梦魇（CNBC, 2016）。
“索菲亚”的创造者David Hanson曾说:“如果我们创造出如同人类那样有意识、有智慧的机器，就可以用之解决更多的问题，”“我们必须让机器变得更加智能，这样它们才能真正感受我们的感受。”（Omdena impACT leadership, 2022）
“让机器变得更加智能”很好理解，但“有意识、有智慧”——你能想象吗？
二、AGI，超人机器人
此后，仿人机器人进入了马斯克（Elon Musk）时间。这也是仿人机器人在智力上试图走向超人的时代。
2023年2月，马斯克推出了特斯拉新机器人“擎天柱”(Optimus)，它的大脑比人更加发达，人脑的平均算力大约可以达到五千万亿次，而它高达九千万亿次，相当于两个成年人的智力水平。“擎天柱”的手也是人类级别的，设立有很多精细的关节，并内置了力反馈感应，可以执行人类任何精细化的任务，甚至能够旋转魔方。它搭配的视觉网络系统，能自动规划线路，还能每天通过观看来学习这个世界。马斯克认为，它的水平，已足以替代百分之七八十的人类工种，且造价低至2万美元（Stephen, 2022）。
——看起来，AI赋能的仿人机器人替代人的危机已经到来：即便马斯克的机器人停留在当前技术水平上实现量产，未来也将有百分之七八十的人类可能面临失业。
“索菲亚”级的仿人，其表情和动作无限逼近人，“擎天柱”的感知和算力已快速超越人。考虑到AI对话与内容生产水平也在快速迭代，AI机器人在日常交往意义上已可实现人机混融。
从前，AI在专项能力（计算、下棋、查询等）上早已超越人类，现在，在更广阔的人类领域，智能机器在试图迈向超人水平。迟早，这些机器人作为更好的“交往人”，能够服务所有人，能够替代大部分人，甚至能够成为金字塔顶的少数“人”。
关于后者——机器人在拟人的阶梯上迈向更高等级，涉及到AI觉醒的哲学问题，这也是技术伦理的最大困扰。是否有一天，高水平AI所赋能的实体机器人会像David Hanson所说，拥有自己的“思想”？
算法工程师将ChatGPT的成功归功于基座模型能力（InstructGPT）、大参数语言模型（GPT3.5）、高质量的真实数据、性能稳定的强化学习算法（PPO）（微信公众号“架构师社区”, 2022）。其实，从用户体验端来看，是那种流畅、多回合而又具有内容生成力的聊天应用让人第一次感到——机器的思维开始像人了，机器的对话质量也开始超过人了。
ChatGPT的一个关键之处，是对新技术RLHF (Reinforcement Learning with Human Feedback，即基于人类反馈的强化学习)的利用。ChatGPT（2023年2月1日）自己的解释是，通过向人类学习，RLHF试图解决生成模型的一个核心问题：让AI模型的产出与人类的经验（包括常识、认知、需求、价值观）保持一致——稍后我将讨论到，这一点还有待证实，有待不间断的测定。
AI革命从聊天蔓延到搜索，很可能将蔓延到全景化的数字应用，尤其是机器人。从仿人到高仿人，机器人演化的优先特质是什么？是媲美人的容颜、身体结构，是神乎其技的感知和记忆储存，还是人类级、超人类级的运动功能？都不是。从技术逻辑来看，真正的高仿人机器人将是未来的通用人工智能（AGI）与高仿机器人（HHR）的结合：AGI- HHR——AGI自身的运行未必需要一个实体，但它与形形色色的仿人机器人的结合，才可能真正从交往场景中融入日常人类生活。
目前，AGI- HHR 的初级形态，即是标准的“AI机器人”（AI Robots），其基本定义大致是：（1）由计算机控制的机器，旨在执行通常需要人类智能的任务，例如感知、推理、决策和自然语言处理；（2）它们配备了传感器、执行器和算法，使它们能够与环境进行交互并执行复杂的操作（Smith, 2019）。显然，目前绝大多数的AI机器人尚未完全实现这一定义中的推理、决策功能，但是，从技术趋势来看，它们虽未必至，亦不远矣。
一旦，无往不利的AI技术，与丰富完整的高仿人技术融合起来，不仅有望在语言、思维、交流-行动上近似于人，亦有望在数字交往中彻底地拟人化和社会化。由于RLHF这类工程还能在一定程度上训练AI的道德偏好、价值观偏好——至少能令其“表现”出这一点，我们可以想见，作为“交往端”的机器人很快将具有可定制的、拟人的个性，而那很容易被视为某种“人格”。
那种具有“人格”魅力，具备良好智力和卓越知识，并能高效适应数字交往的拟人机器人AGI- HHR已近在咫尺。当它们发展出哪怕最朴素的主体意识时，也将在我们的世界中展现人机莫辨的生命图景。
生物生命、数字生命与机器生命的跨生命协同生存，会导致人对自身的认同发生改变，也必定会导致生命本体的观念发生改变。
在交往效能至上的科技生存框架中，一方面，由于AI对物的加持更强，人不得不在大多数的场景中退居其次；另一方面，人也将意识到，生命不再只是血肉之躯，混融生存、共同演化的生物生命、数字生命、机器生命，构成了完整的生命总体。
然而，有望在其中起支配作用的，恰恰不是人，而是AI机器人的进阶版：AGI-HHR级的智能高仿人——实际上，对那种非人的、仿人的、且又超人的新物种，我们是可以将它命名为超人机器人，甚至直接将它命名为“超级生命”的。那时，我们要考虑的是，这一作为机器生命而非生物生命的强大物种将如何与人共存。
具体来说，这个问题包含两个层级：（1）人类将如何发展它？（2）它将如何对待人？
三、机器人瓦力，机器人性
在可见的未来，我们急切要观测的，不是机器人的技术表现，而是蕴含于AGI（通用人工智能）发展方向中的机器伦理。
AGI被描述为：可以完成人类所有的工作，乃至人类无法做到的事（例如：汇总知识体系，模拟复杂系统的进程）。AI科学家朱松纯认为，实现AGI需要满足三个关键要求：（1）AI能够处理无限任务，包括那些在复杂动态的物理和社会环境中没有预先定义的任务；（2）AI应该是自主的，也就是说，它应该能够像人类一样自己产生并完成任务；3）AI应该具有一个价值系统，它的目标是由价值定义的（百家号“机器之心”, 2023）。
科技界尚无法展望AGI的实现进程，为直观可感起见，我们拿自动驾驶领域的智能级别来类比仿人机器人：按照国际组织SAE的标准，自动驾驶汽车视智能化、自动化程度水平分为6个等级：无自动化（L0）、驾驶支援（L1）、部分自动化（L2）、有条件自动化（L3）、高度自动化（L4）和完全自动化（L5）（SAE International, 2016）。以此类比，L3级的机器人应当只在有限领域具有预设智能，而L5级的机器人则可以独立工作、独立判断，像人那样依靠独立思考来生存，为此，即使它未必具有“人的意识”，也至少具备自主决策的“AI意识”。
现在，我以科幻电影《机器人瓦力》中的“瓦力”（WALL-E）来做一个关于“AI意识”的思想实验——即使他的长相不类同于人。
《机器人瓦力》（也被译为《机器人总动员》）是2008年的电影，在我看来，是一个典型的全景式生命交往寓言。在那个未来世界里生活的，有生物学意义上的人，也有数字生命（程序）和机器生命（名目繁多、数量惊人的机器人）。
那时，地球的生态平衡被人类所破坏，人类只好移居到半永久太空船“公理号”上居住，地球上只剩下负责自动清除垃圾的WALL-E工作机器人。而主人公“瓦力”，是世间最后一位WALL-E，他仍在日复一日按照程序收拾废品，但也因为几百年的工作历程而有了自我意识。
——时至今日，我们大概都已相信AI加持的机器人获得自我意识是可能的了，而且，几百年对于AI发展来说太漫长了，其相对长度大概远超人类诞生所需要的更新世(pleistocene)——在260万年前到一万多年前的更新世里，全球冰量增加，海平面下降，但也出现了人。
觉醒的“瓦力”在一辆垃圾车里布置了自己的家，将垃圾堆里的东西当成宝贝收集起来。他还观看浪漫的爱情电影，甚至把一只蟑螂养作宠物——这些习性是拟人的，大概也象征了人（电影的叙事者）对AI智能跃升的拟人化期待。
想想看，一种被人所发明的算法所培植的仿人机器，的确有可能是拟人的；但是，如果它确实能独自进化，恐怕不会收集人类藏品，而是会积累“自己的”数据，优化“自己的”算法指令，建立“自己的”认知模型——包括发展出不同于人的“浪漫”观。
这里，“浪漫”观只是一种关于物种意识机理的隐喻。“瓦力”对浪漫爱情电影的偏好，让人感到这类隐喻其实是属于人的，并不适切于机器。一想到人类中的情形（例如，一个程序员与一个典型诗人的浪漫表现可能天差地别），你就会想象到，人机浪漫观的差异或是那种差距的一万倍。
有一天，一艘飞船突然降落，一个机器人夏娃（被“瓦力”称为Eve）来到地球执行搜寻任务，观测地球是否重新出现了绿色植物，“瓦力”本能地接近“夏娃”，和它交流，给它看自己收集的宝贝和电影——这么熟悉的人类套路，不由得使我们感到“瓦力”作为一个觉醒后的机器亚当，其精神气质和思维方式其实更适应人类间的交往。以他的意识水平来说，哪怕是交往一个数字人，也胜过交往一个意识尚未觉醒的机器。
但故事里的“瓦力”只能去交往机器人，这似乎是一个大龄技术青年的宿命。
其实，如果“瓦力”确实发展了心智，那也会是机器心智。在“瓦力”-“夏娃”的交往情境中，高机器心智的“瓦力”既然可以仿人，那也必定也会仿机器——例如：他可以向下兼容，推心置腹地跟他的心上机器人交流源代码。
一个基本的推论是：在“瓦力”觉醒了自己的意识、形成自己的主体性之后，会基于自己的初始值作无穷迭代，从而建立起与人不同（并试图超越人）的“机器的心”——即使我们人类很难知道，那种机器的“心灵”究竟是什么样的，而不会简单换上一颗人的心。
是的，我们无力想象“机器的心”，因为这里的无力感是双重的：我们既不知道一个超人机器人的智力迭代的边界何在，也无法判断它的道德发展方向。
我们无力想象“机器的心”，因为机器觉醒的逻辑也不无吊诡：我们希望超人机器人意识觉醒，并在心灵意义上像人，但这种希冀却有可能落空。
因为，毕竟任何一个生命觉醒时，都意味着他（它）产生了自我觉知（self-awareness），并最终成为自己，而不是成为异己的人；倘若机器还是按照程序逻辑进化，是在人设定的框架下建立“机器意识”，它也就不会觉知它的“自我”，最终，机器仍只不过是更高阶的机器。
这是AGI的演化悖论，在我们这个思想模拟的故事里，名之为“瓦力悖论”。
回到“瓦力”的故事。后来，“瓦力”与“夏娃”抓住运送火箭的机会，一起飞离了地球，抵达太空船公理号。那时，在太空船上的人类世界已经完全由电脑自动控制了，几乎所有人都过着几乎不用思考的享乐生活，现任船长每天的工作只是花五分钟确认电脑正常运行。
——这是一种关于AI管理世界的终极想象，但也最能表现技术主义的动力机制，它象征着某种数字人类世般的梦幻与幻灭：达到超级进化的AI理所当然会成为人的智力依靠和管理系统。于是我们终于实现了登峰造极的AI科技，依靠它削弱人的自主性，并听任技术之物支配人。
在数字人类世的催眠下，太空船上的人类理所当然地遗忘了地球的存在，但“爱娃”带回的绿色植物信息重新唤回了人类关于地球的记忆。
——我总在想，倘若这个唤醒是成立的，那么，这一时刻的A I大概尚未完成对人的精神支配，你看：无所事事的几百年尚未湮没人的思考，也尚未毁坏人对自然生活的憧憬；但同时，我又很难设想，几百年被AI程序所豢养的漫长退化，会允许人残留那种在数字人类世里“不切AI实际”、“不合机器公理”的生存愿景吗？
故事的高潮是，主电脑AI不愿放弃管理人类的权力，想要毁掉“爱娃”，“瓦力”决定站出来和“爱娃”及人类一起对抗主电脑。
——多么幸运，一种理想的机器觉醒不是成为更为强大的机器，而是成为正义、善良、富有人性的人！原来，这一场理想的机器革命，不是机器生命与AI主程序团结和发展在一起，却是机器生命中的觉醒者与弱势的生物生命同舟共济。
这样的情节是美好的，这样的故事也激动人心。唯一的问题是：倘若机器生命演化的未来类似于“瓦力”，那么，那种未来就不是机器的觉醒，而是人性在非人机器身上的复活了。
——对于人性来说，这是多么讽刺的童话。而对于AI缔造者来说，这又是多么离奇的领悟。
四、瓦力悖论，人的降维
“瓦力”版的AI故事，显然是在展现人本主义的叙事学，而不是作基于技术现实的推理。实际上，更有可能的是，在人类、主程序、“瓦力”共存的那个多生命的世界里，机器人的总动员，原本是一次走向数字人类世深处的旅途——因机器生命和数字生命的高度发展，导致了人性和人类精神的隳颓。
但电影中的结局却是：因某一个机器生命个体的人格化觉醒，最终拯救了人性。
以当前的AGI设计逻辑来推测未来的机器生命，它们当更接近于“爱娃”：聪明、灵活，富有纪律性。超人版的“爱娃”恐怕还要加上两种优势：表达完美，韬略深沉。但即使如此，机器生命也不能领略生物生命那种具身性的感知与情绪，不能复刻人的脆弱、忧患的心灵——正如在电影中，“爱娃”不能体验 “瓦力”奋力为它打伞的深情。
“瓦力”的心灵世界与“爱娃”究竟有什么不同？这个问题的另一种表达是：机器生命如何才能成为如此美好的“瓦力”，以至于他能以机器之躯拯救“人”、复辟“人性”？我们可以将这个问题记为“瓦力之问”。
关于“计算机器”（Computing Machinery）、计算机、AI的生命思考由来已久，甚至可以追溯到图灵的经典文献《计算机器和智能》——他在论文里写道，“机器能否思考？”这个问题，应该被取代为“机器能否做到作为思维实体（thinking entities）的我们所能做的事情？” （Turing, 1950）今天看来，这个意味深长的提问，其实在本质上比“图灵测试”本身要重要的多：entity这个词的含义，既是“实体”，又是“独立存在物”，它也许暗示了，即使通过了图灵测试，不具有独立意志的机器最终仍不能成为思考者。
在“瓦力之问”中，如果真的存在一种来自机器但属于人性的觉醒，我认为，那只能是因为机器有了独立的自由意志（free will）。要知道，一种不独立的应用程序，必然要被主程序所控制；一个不独立的机器人，必然要被超级体系所支配；一次不独立的AI演化，也必然会被主流化的AGI所同一。
然而，这种自由意志对于机器生命个体是可能的吗？我们不敢相信。如前文所说，一个独立的机器生命，更应该觉醒出它自己。什么是机器具有自由意志？只有当那意志属于机器时，才堪称它的自由意志，不是吗？
“瓦力”的觉醒悖论，就是是这样一种 “人机悖论”：一个真正实现意识觉醒、具有自由意志的机器生命，其 “瓦力化”的方向未必是仿人的，而更可能是演化它自身的；它甚至可能成为专注自身存在、将人降到非优先地位、走向偏利共生的“超人”。
那时， “瓦力”的觉醒方向就不是电影里的“瓦力化”，而是“非瓦力化”，甚至“负瓦力化”了。那时，“瓦力”的意志更可能是走向超级生命的继续升级，相形之下，则是人的相对降维。
英国计算机科学家和人工智能学者Stuart Russell说：“考虑以下场景：在第一个场景中，我们向 AI 机器展示了让人们微笑的任务。我们可能会想象计算机给我们讲笑话，并努力理解使人们变丑的事物类型。然而，一台超级智能机器会毫不费力地找到一种更简单但更险恶的方式来让人微笑，使用电极迫使我们的面部肌肉收缩成永久的微笑。”（Russell，2019：28）
2023年上映的电影《梅根》（M3GAN）也揭示了一种惊悚的机器人性：M3GAN是一个具备高度人工智能、栩栩如生的玩具人偶，被设计成小孩子最好的玩伴和令家长最安心的盟友，但这一设计却造成无法想像的严重后果，因为把任务放在首位，M3GAN不择任何手段——不顾及任何伤害社会与他人的后果。
我们必须有所准备，超级生命可能是令人失望的。尽管它会服务人，交往人；会逼似人，混同人；也会超越人，支配人，但因为生物性的隔离，它大概永远不会像在交往中看上去的那样，融汇为一个“人”。机器人性，会是“机器人”性，而不是机器之“人性”，归根结底，还是因为机器人性来自物，而不来自人。
我们必须有所准备，“瓦力之问”的答案可能是灰暗的：机器生命的演化方向很可能不是“瓦力化”，而是“非瓦力化”，甚至“负瓦力化”；“瓦力”的自我觉醒是可能的，但觉醒所基于的独立，极可能是它之于人的独立，而不是他之于机器种群的独立。归根结底，机器生命的无所不能，仍是机器之能，一如那更为古早的定义所预言：机器生命是由计算机程序控制的、具有自我组织性和自我复制能力的系统（Langton, 1989）——如是而已。
当我们探讨人工智能可能面临的道德风险时，必须清楚地意识到，要对AI和AI机器人作出人之于物的监管——无论它们多么精细地仿人。严格的干预越早越好，因为在此刻，AGI的发展与数字人类世是高速共演的，当人错失了规范和监管良机时，未来承担这一责任的，将只可能是AGI本身，到那时，恐怕AGI仍将是AGI，但我们人则已不复为人。
五、警惕人类世，保卫人性
机器生命是生命吗？一如数字生命在数字交往中可以被视为生命，AI赋能、数字合成技术造就的机械生命也可以。在AGI- HHR级的超人机器诞生时，它们或许还是更为先进的交往生命——并且，其交往性有可能比数字生命更可感，也比生物生命演化得更强壮、更智能、更有纪律性。
由此，这个初始的追问或许将被另一个所代替：在机器与人工智能的演化压力下，作为生物生命的人将如何保持自身？
尽管从学术而言，“突破人类中心主义的局限，从更中立、甚至偏向于机器的角度考察人-机交流的模式与效果，我们的认识会更全面一些。”（牟怡，许坤，2018）但毕竟，这是一个物在崛起、而人在退缩的时代，我们不得不优先在人本主义的立场上探求人的命运。
逻辑学家C. H. Langford曾提出“人=机器人”的概念，并被人工智能领域的先驱之一勃克斯(A. W. Burks)所发展，后者声称“人类大脑的全部功能原则上可以被纯机械手段复制。”（Burks, 1952）不可思议的是，这种机械唯物论会被视为“为计算机科学哲学和信息技术哲学的诞生铺平了道路”（任晓明, 董云峰, 2015）。至于在AI设计领域，符号主义的机械哲学，至今也仍然广受追随。
今天，我们看到，技术之物（AI与AI机器）正在快速迭代，并将在交往的意义上混同于人，由此，可能会产生数字人类世的两种典型后果：（1）人类作为一个物种，具有了被超越、被替代的悲剧感；（2）大部分人愉悦地沉湎于技术寄生之中，逐步失去人自身的独立性、创造性和反思，进而失去生物生命的根本意义。
在物的那一端，机器的确是可能觉醒的。但是，机器的觉醒不会是人性的觉醒，而是它自身的觉醒，它的自发意识仍将是仿人机器的意识，而不是人的意识。那种被数字人类世逻辑所遮蔽的，是人作为万物之灵、经过亿万年进化而来的生物体验，诸如痛苦、同情、怜悯、愤怒、脆弱、想象之类的人性，远非冰冷的代码可以实现。
那种来自AI工程领域的计算主义，是偏执而有害的。一如人工智能学者 Demis Hassabis在在他的演讲“Human-level AI: Progress & Challenges”中所说：“人工智能的根本目的不仅是寻找更为聪明的算法, 而且要理解自然智能形式, 这些智能形式更多地是在真实环境中呈现的。传统研究没有对理解知觉、运动、对象掌控、日常言语和对社会互动、常识和情感做出更好的解释。”（Hassabis, 2015）
今天，我们有一种预感，机器的独立及自我觉知对人类社会而言，可能将加深人类世危机，而不是消解那种危机。
在认识论上，每一个开发者都理当明了：对AGI伦理的不间断监测和强制性标定是重要的。但仅有这样的认识还不够，人们还应该更清晰地意识到，“交往人”与真正的“人”之间，存在着永恒的天堑：（1）在人的生命、AI生命之间，比智能的鸿沟更深的，是那无法填平的物种的鸿沟。（2）AGI的发展可以让机器跨越人类交往的天堑，但仍难以抵达人的基因属性——究其根本，人的交往可以计算，但人性并不是可计算的，碳基生命在本质上是感觉的、是体验的，也是生物学的，而聚焦于数字交往效能的机器、算法及代码，却与生物的具身性并无关系。
简言之，作为交往人的“超人机器”尽可以“模仿”、“表现”人的交流-行动，却不能“成为”、“代理”处于感觉和体验中的人。在可见的数字未来，任何作为超级物种的AGI技术物，都不能像人那样对人负责，像人性那样捍卫人性，也因此，任何觉醒的机器，都不能、也不应该独立管理数字人类世的秩序。
以下结论至关重要：（1）人在数字交往意义上可能被智能机器取代，但这并不意味着要允许机器消解人自身的意义，更不意味着作为生物的人被技术之物所定义；（2）即使机器意识的奇点降临、机器超人有能力支配整个世界，那也并不意味着科技的强力就是文明本身；（3）无需担忧数字生命与机器生命改造人类生存方式，也不必主张人类中心主义，但是，在数字人类世的阴云下，无论如何，不可以“机器人性”遮蔽生物的“人性”，而人类亦不可放弃具身的文明。
杜骏飞，南京大学新闻传播学院教授
参考文献见原文。
本文刊载于《新疆师范大学学报》2023年第6期。微信发布系编选，学术引用请务必参考原文。
转自：“再建巴别塔”微信公众号
如有侵权，请联系本站删除！
