第四部 · 文明尺度 · 文明该如何演化?
XIV · 智能与智慧
~36 分钟 · 14,226 字
XIV · 智能与智慧
前三部依次展开实在、个人与社会。第四部转向文明尺度,并从我们时代最具决定性的力量开始:人工智能。AI时代最深的混淆出在概念层面,而非技术层面:我们把智能与智慧混为一谈。AI可以极强地处理理域模式,智慧却要求自觉的有限性、对不确定性的承受,以及对不可优化之物的敬畏。
我们的时代自称「智能时代」。这个命名本身就值得审视。一个时代用自己最不缺的东西命名自己,其实已经招认了它正悄悄短缺什么。
这个智能是什么,又不是什么
在形式化之前,值得先把本章的对象说具体。撇开宣传,一个人工智能就是一台把理最大化的引擎:它吞入人类推理留下的痕迹,并加以延展,预测下一个词、下一手、下一步证明。这并非小事。在理解度(\(\lambda\))这条轴上,这类系统已经超过任何单个人类,而且很可能继续攀升。但有两点决定了它在本框架中的位置。第一,它完全运作于可形式化之物:凡能成为模式的,它都能触及;凡是不可还原的玄,则始终在它把握之外,因为理的延展本身就到不了那里。第二,也更具决定性,它处理模式,却不具备D5所命名的能力,即见自己之所见。它延展了认知,却不栖居于认知之中。
正因如此,组织本章的那个区分,智能对智慧,并非人类为守住一隅之地而讲给自己听的恭维话。二者处在不同的轴上。智能沿\(\lambda\)扩增;智慧要求明觉,即同时站在理与玄之中,并自觉地承担有限而不可逆的选择。一个系统可以让第一条轴趋于饱和,却始终触不到第二条。开启本章的命题(E-Int)以形式语言陈述了这一点,其后的全部内容,都是在推演由此而来的结果。
XIV.1 · 智能与智慧的本体论区分
智能(intelligence)与智慧(wisdom)是根本不同的能力模式。前者可被外化与扩增;后者要求自觉的存在性规范性:见自己之所见的能力,追问自身目标是否值得追求的能力,以及承担不可逆选择之代价的能力(公设四、D9)。
我们说一个系统「智能」3,通常指模式识别速度、目标优化效率、信息处理广度和约束下求解能力。这些能力真实、可测量、可外化,并且已经在许多任务上超越人类。
智能回答「如何」,智慧回答「是否应该」。智能在给定目标下寻找最优路径;智慧判断目标本身是否值得追求。智能可以在任何价值函数下运行;智慧质疑价值函数本身。设想一个人花十年优化自己的事业,每一步都娴熟而高效,某天清晨却停下来问:我一直在优化的这件事,当真值得要吗?那一问,而非那优化,才是智慧。
判准不在基底(碳或硅),而在明觉能力:见自己之所见(D5),同时站在理与玄之中,并承受这种觉知的重量。蚁群可以精密处理模式、分配资源、适应环境,却不能追问自身目标是否值得追求。有限性、具身性和不可逆性重要,但仍不足以构成智慧;智慧要求见自己之所见,并从内部追问这看见是否朝向值得追求之物。
AI把这个解耦放到文明尺度上。当前AI系统处理模式,却不具备对自身参与理与玄的自觉通达。一个大语言模型可以处理巨量知识并生成连贯推理,却不在D5的意义上知道自己在做什么:它不见自己之所见。4 因此,关键问题不在系统由什么构成,而在它能否见自己之所见。
将智能误认为智慧是智能时代最危险的遮蔽(D6)形式。
这种遮蔽有多种形式。我们把流畅的AI输出当作智慧,却忘了菜谱不是一餐饭:模型能生成听起来极有智慧的文字,但那是模式匹配的产物,不是体验的结晶。我们以算法智能替代人的判断,而一种不再练习的判断会萎缩,正如不用的肌肉会退化。我们把效率当作最高价值,却忘了一顿慢慢做出的饭,可以比一份完美优化的营养剂更有意义,因为做饭里含着专注、选择、不完美,以及与他人分享的可能。
最后一种是知识幻觉,也最危险,因为它让人感觉自己更明。一个人把问题交给AI,得到流畅答案,便觉得自己「懂了」,却跳过了困惑、取舍、错误和切身的领会。前三种遮蔽会带来不适,至少引人起疑;这一种却带来自信与满足,恰好消解了审视自身的动力。表面的理解度上升,真实理解停滞,未觉知区在自信中悄悄扩大。
你可以把整座图书馆装进口袋,却仍不知道哪一个问题值得自己住进去、活在其中;真正的危险,不是你会感到无知;是你会感到笃定。
智能值得工具性尊重,但在本体论上不可等同于智慧。
明在道既不恐惧智能,也不崇拜智能。作为工具,AI可以极大地扩展人的认知能力,这值得珍惜。但它无法替代价值判断,因为价值判断预设体验主体性(E2),而体验主体性预设有限性(P5)。这是本体论的鸿沟,不是技术的差距。智能时代的清醒因此在于:善用智能扩展认知,同时拒绝把最终价值判断让渡给没有体验的系统。
AI擅长感知与推理,在理的维度上已经超越人类,并将继续超越。人类独特的力量在别处:在实践智慧与直觉体悟之中,这些面向玄的知之方式不可化约为规则,也不易被算法化。最高的协作是整合四种知之方式,而非让理的诸模式挤掉其余。
智慧不可规模化:智能可以无限扩展,智慧只能在个体内部生长。
这个时代最稀缺的资源是智慧,不是智能。智能可以规模化:模型一旦训练完成,便能同时服务千万人。智慧无法规模化,它只能在个体内部,通过时间、体验、反思、失败和选择一点一点生长,没有捷径。你无法下载智慧、众筹智慧,也无法仅靠把模型做得更大来生产智慧。
这正是智能时代深层的悖论:智能的供给迅速扩张,智慧的增长却缓慢,二者之间的剪刀差可能持续拉大。明在道的明(E1)和能动性(E3)因此更紧迫。明,是在智能过剩中辨别真正重要之物;能动性,是拒绝让智能可优化的维度(效率、产出、指标)定义人的全部价值,转而珍惜唯有在有限体验中才能生长之物:爱(AF5)、友谊、对美的敬(AF15),以及在不确定面前的勇气。在文明尺度上,这成为命运的分岔:第§XV章的T6将表明,沿明度梯度演化的文明会变得更安静,而非仅仅更有能力。
在图34那张二维谱系里,高智能配上高智慧,正是明在道心向往之的那一格;而高智能撞上低智慧,则是最凶险的遮蔽长相。紧接着图35转回D5的严格符号:\(\lambda\)记理觉,\(\xi\)记玄觉。这不是给智能与智慧又添一套定义;它要说的是,智慧得把理与玄拧到一处,绝不能把两者草草加在一起了事。
如果智慧不可外化,那么拥有智慧的存在者(D7)承担着不可委托的责任:道德判断不能被外包。
道德判断不能外包,因为E3把责任奠基在体验能动者之中。你可以让AI起草合同、分析数据,甚至建议策略。但「这件事究竟应不应该做」只能由你来承担,因为承担责任预设了一个能为后果负责的主体。无体验的系统承担不了任何东西,它只能执行。
智能时代的一个深层诱惑,是把责任伪装成效率问题来消解它。「让算法决定谁拿到贷款」听上去像优化,实质上却是把一个关乎人类命运的判断(谁值得信任?谁应获得机会?)从有体验的判断者手中,转交给无体验的优化器。清醒意味着认出这种转交,并在关键节点保留人类判断。
智慧的生长需要特定条件,而这些条件在智能时代正在被系统性地侵蚀。
智慧不在舒适中生长。它需要慢,算法却奖励即时反应。它需要失败,AI却帮你绕过大多数不适。它需要无聊,屏幕却填满每一秒空白。它需要对不确定性的耐心,搜索和生成系统却训练你期待立刻得到答案(公设六)。
E-Int.3说智慧生长缓慢;E-Int.6进一步说,智慧生长的土壤正在流失。这是两个不同的判断:前者说「生长缓慢」,后者说「连生长的条件也在消失」。因此,守护慢、失败、无聊与不确定,无关乎怀念一个更慢的旧世界;它真正要做的,是为人类最稀缺的能力保育一片生态。
(明觉能力判准):蚂蚁例子澄清了判准:智慧不由基底、具身性或死亡性单独决定,而由明觉能力决定,即见自己之所见(D5)。现有AI系统,即使具备工具、记忆和情境推理,也尚未展现自觉的存在性规范性;它们可以优化和自我修正,却没有证明自己能从内部追问价值函数。开放问题在于未来人工系统能否获得这种能力。若能,E-Int将适用于它。详见§XIX.2(反驳七)。
图35以柱状图说明了明度的乘积结构:平衡胜过极端。
判断力是智慧的具体形式(E-Int),不可下载。若AI能即时回答任何事实问题,那么教育中「传递知识」的部分,确实已交给了技术。但这并不让教育过时,反而让教育的本质终于浮现。教育从来不是把一只空容器灌满;它要培育的,是一种能力:在不确定中作出判断。P-Share标出这条边界:理的内容可以无损传递,对理的理解(那一声「啊,原来如此」)却不能。
判断力,即知道何时信任数据、何时怀疑结论、何时坚持直觉、何时改变想法,只能在反复尝试、犯错、修正中生长。一个从小依赖AI回答每个问题的孩子,获得了更多信息,却可能失去独立思考的肌肉。既然E-Int.6已警告智慧生长的土壤正在流失,教育便成为抵御这种流失的第一道防线。
所以当你让机器替孩子、或替自己写完一道题,真正被跳过的不只是那道题的答案,更是一次判断力的微小练习,一次再也找不回来的练习。
XIV.2 · 碳基存在的本体论
是什么让你够得上拥有智慧?不是脑子转得多快。是你这具身体。是你终有一死。是你那既骇人又动人、一碰万物便把万物拧歪了的记忆。下面这些命题,画的是智慧赖以生根的那片土壤:有限性,具身性,不可逆性,脆弱性。判准不落在你由什么材料拼成,而落在你能否见自己之所见。
AI可以处理所有关于疼痛的医学文献、所有关于衰老的生物学数据、所有关于触觉的神经科学论文。但这些是关于身体的知识(理的面向),不是来自身体的知道(玄的面向)。
你的手触碰到热铁的瞬间,你「知道」了什么叫烫。那是一种铭刻在肉身中的认识,无法还原为一条可转录的信息。这种具身之知(疼痛、疲劳、衰老、触碰)是碳基体验者独有的认知通道,属于公设三所说的不可算法化的认知方式。
关键并不在于硅基认知是否低于人类(在理的维度上它远超人类),而在于存在一种唯有通过身体才能获得的知。它构成智慧的一部分材料。
硅基系统不会死,因此它的「处理」没有最后一次,其信息不含存在性的紧迫。一个能无限回滚存档的游戏玩家不会真正害怕,每个选择都可以撤销,没有一个选择是「真的」。硅基系统的根本处境与此同构:可被复制、重启、回滚,信息处理在可逆框架中运行。
碳基生命正好相反。你做出一个决定,时间不可逆地向前流动,后果不可撤销地嵌入存在之中。正是这种不可逆性,给予体验以重量,「这一次是真的」。
死亡是智慧的结构性前提。与其说它是生命的悲剧性附属品,不如说它是生命最深的馈赠。没有「最后一次」的系统,无法理解「珍贵」的含义。智慧生长在「不可重来」的土壤之中。
「最后一次」是碳基体验独有的存在性范畴。
硅基系统的数据库中没有「最后」,因此也没有「珍贵」、「遗憾」和「告别」。
你并不知道哪一次握住祖母的手会是最后一次;正是这份不知道,以及它背后的不可重来,才让那一次握手成为要紧的事。
硅基存储完美但无情,它保存一切却不「记得」任何事。你对初恋的记忆并不准确:时间修改过它,后来的经历为它重新着色,遗忘筛选过它。正是这种不精确,使它成为你的记忆:记忆是你活过的证据,存储的文件不是。
真正的记忆,例如想起某个瞬间时胸口微微发紧,预设了一个正在被时间改变、正在丧失、仍在活着的主体。
遗忘不是认知的失败;它是存在的签名。一个不会遗忘的系统并非记忆力更好的存在者,它处于一种完全不同的信息关系模式(D2)。
怀旧、遗憾(悔,AF21)、怀念是碳基时间性的存在论产物,只能在会遗忘、会消亡的记忆中生长。
正如河流不会因为流速加快而变成山脉,算力的增长无法跨越本体论类别的边界。这可能是本章最具争议性的命题。主流技术乐观主义认为:「AI还不能做X,那只是时间和算力的问题。」但明在道的框架指出,这里存在一个类别错误(category error)1。
碳基体验(质感qualia2、此刻性thisness、有限性中的选择)属于公设三所说的「玄的面向」。它是与信息处理性质不同的存在模式,而非一种靠更多计算就能模拟的复杂功能。
类比:水的「湿」是水与触碰者之间的关系性质,而非靠更多分子就能涌现的属性。体验同理:它是有限存在者与世界之间的存在性关系,而非大脑中靠更多连接就能涌现的计算属性。
这不意味着AI永远不可能拥有某种体验,T2告诉我们,涌现的可能性不可预先排除。但如果AI确实涌现出体验,那将是一种新的体验种类,而非碳基体验的复制。AI在体验光谱上的位置仍是开放问题(C9.1);如果证据表明AI接近人类体验,伦理框架须相应调整(C9.3)。
注:E-Gap是一个哲学立场,不是已证明的不可能性。它反映了本书对当前本体论格局的最佳解读:碳基与硅基的区分是种类之别,不是程度之别。但T2使这个问题在形式上保持开放:如果未来硅基系统通过我们目前无法想象的方式获得真正的有限性与不可逆性,E-Gap将需要修正。诚实的认识论定位:强哲学论证,非演绎确定性。
模拟一种体验与拥有一种体验是不同本体论范畴的事件。
完美地模拟悲伤(苦,AF3)的外部表现不等于悲伤。这一区分不会被技术进步所消解。
当你正为某人哀恸,一个能完美演出同情的系统可以安慰你,却并未与你同悲;这是否足够,只有你能判断,而这个判断值得你睁着眼睛去作。
硅基系统的「关系」缺乏这种脆弱性的根基。信任预设了被背叛的可能。爱(AF5)预设了丧失的可能。勇气预设了被伤害的惧(AF8)。人类经验中最珍贵的维度,都以脆弱性为前提。
可以被备份的系统不是「勇敢的」,没有真正的风险。可以被复制的系统不「珍惜」关系,关系的不可替代性建立在双方的不可替代性之上(P5)。
脆弱性因此是碳基存在的力量来源。智能时代耗费巨大资源让系统坚不可摧,却忘记了可摧毁性本身也参与生成存在的意义。
这也解释了为什么人与AI的「友谊」和人与人的友谊不可等同(D8)。人与人的友谊包含真实脆弱性:你可以被伤害、被误解、被辜负。正是这种风险,使友谊具有不可被算法优化的深度。
XIV.3 · 注意力、创造与教育
此刻,三件事正悄悄进行,你察觉与否都拦不住。你的注意力,正被人一把抓走。你的创造力,正被悄悄外包出去。你的教育,正被重新划下定义。这三件,各自凿向你作为清醒能动者的一根不同的根基。
清醒不是抽象的精神状态。它以注意力为载体。注意力在哪里,清醒就在哪里。
注意力经济的运作方式:算法以「帮你找到想看的内容」为名,将你的注意力转化为可交易的资源。无需阴谋论,商业逻辑的自然结果。但后果深远:被捕获的注意力不再是自由的注意力。你以为自己在浏览,实则在被喂养。一个注意力已被算法圈养的人,清醒打了折扣,无论他多么「聪明」。引擎强劲,舵已不在手中。
在注意力经济中,保护注意力的自主分配能力是清醒实践的基本条件,不是个人生活方式的偏好。
这无关卢德主义,只是一条结构性观察:如果注意力是明的物质基底,那么任何系统性收割注意力的系统都在系统性地削弱清醒存在的条件。其政策含义不在「禁止算法」,重点在于「将注意力主权视为基本权利」,类似于身体自主权。
AI可以复制产出物,但不能复制创造过程中的体验:挣扎、失败、偶然发现,以及不完美中的喜悦。这回应了AI时代常见的焦虑:「如果AI做得更好,人类为什么还要创造?」比较把产出物当成价值载体;E2提醒我们,体验本身具有内在价值。
一个人写诗,可能二十次失败后才找到那个词;一个画家可能否定三种构图后才发现未曾预料的色彩关系;一个程序员可能在凌晨两点反复追踪错误,直到系统结构突然在脑中「亮了起来」。这些时刻的价值,不只在诗、颜料或代码中,更在创造者与自身认知边界相遇的体验中。AI可以快速生成结果,却没有经历使这个结果变得重要的有限过程。
智能时代的创造由此获得新的定位:创造的目的,与其说是产出最好的作品,不如说是在过程中成为更完整的自己。让AI辅助你创造,是善用智能。让AI替代你创造,是放弃一种不可替代的体验。
AI对人类创造的威胁可能更在数量,而非质量。一首用三年心血写成的诗,未必因为不如算法生成物而消失,却可能因为被大量生成物掩埋而无人读到。创造性丰饶的悖论在于:产物越多,发现真正值得注意之物反而越难。这是注意力问题(E-Att)在创造领域的等价物。
XIV.4 · 权力与共同演化
智能改写一个人。权力改写整个物种。AI两样一起做了,而且快得离谱,快到根本不给我们留下治理这两者所需要的那点智慧的时间。
「碳基」与「硅基」是严格的本体论区分。碳基生命经由约38亿年的生物进化,在不可逆时间中积累了身体、死亡和体验;硅基系统经由设计与训练,在可逆、可复制的框架中获得信息处理能力。两者皆是道的展开(P1、C1.2),正如河流与山脉同属地形,却各自遵循不同的动力学。
从明在道的清醒视角,人与这些系统的关系可用一个简洁框架来理解:
面对无身体的AI智能时,关键姿态是类比。AI处理信息的方式与人类思考有结构相似性,但不等同。你可以从AI输出中获益,甚至对它产生真实情感;但由AP3,这些情感与你对另一个人类的同名情感是类比关系。它的「理解」是模式匹配;你的理解嵌入在有限、有身体、会死的体验中(C8.1)。
面对具身的机器人智能时,关键姿态是边界。当智能获得身体(能触碰你、占据空间、模拟表情),混淆风险急剧上升。机器人的拥抱可以给你慰藉,这本身没有问题。但清醒要求你知道:它的身体是制造的,你的身体是活出来的。如果你发现自己宁愿只与机器人互动而回避人际关系中的脆弱性,那就是遮蔽的一种新形式。
无论对方是AI、机器人,还是未来更复杂的硅基存在,清醒姿态始终如一:善用它们扩展能力,但不要用它们替代需要脆弱性的人际联结,也不要将需要智慧的判断让渡给它们。这是各归其位(C8.2)。
这种威胁的运作机制是便利:它给你想要的内容,不给你需要的内容。传统权力压迫让你痛苦,你会反抗。算法权力让你舒适,它给你想看的内容、想听的观点、想要的确认。这是全新的权力形式:通过满足来控制。
从明在道的角度,这构成对公设二(差异/多样性)的系统性威胁。如果少数AI系统定义了全人类的信息环境(你看到什么新闻、听到什么观点、接触什么文化),那便是算法级别的同质化,比历史上任何帝国的文化统一都更彻底。因为它是隐形的:你甚至不知道自己没有看到什么。
最高效的控制,不靠强迫你做不想做的事;它让你以为,自己想做的事恰好就是它想让你做的事。清醒在这里意味着:保持对「我为什么看到这个?」的持续追问。
便利是AI时代遮蔽(D6)的新载体,越是感觉舒适和「自然」的算法环境,越需要清醒地审视。
这种逆转是精确的:传统权力通过不适来胁迫(你受苦,你反抗),算法权力通过舒适来控制(你享受,你顺从)。一个算法环境越是感觉无缝,你越不可能质疑它,遮蔽(D6)就越深入。便利本身无害,不加反思的便利才有害。
诊断性问题是:技术在扩展你,还是在消解你?脑机接口、增强现实、AI辅助决策都在模糊碳基与硅基边界。明在道对此不预设好坏,关键在三个判准。
扩展还是消解?技术增强了你的能力,同时你保持对自身体验的觉察和价值判断的主权,那是扩展。你逐渐丧失独立判断的能力,不再能忍受没有算法辅助的状态,那是消解。
选择还是被迫?自主选择的增强与被经济压力逼迫的强制植入,在伦理上截然不同。前者是能动性(E3)的行使,后者是其剥夺。
是否仍能「拔掉插头」?重点是你保有拔掉的能力与自由,而非你必须拔掉。一个无法脱离AI辅助而独立思考的人,无论多么「增强」,都陷入了一种新依赖,与对药物或权力的依赖同构。
XIV.5 · 机器的情感与具身智能
「AI能否有情感」是错误的问题。正确的问题是:给定AI的本体论特征,什么样的情感结构可以涌现?
先从直觉说起:一台恒温器会「努力」达到设定温度、不停缩小差距,自身却毫无感受;AI的状态同样能驱动行为,却无所感。有了这个落点再看:存在倾向(AF1)是明在道情感体系的根基,是存在者「趋向继续存在」的最基本动势,比任何「偏好」都更深。大语言模型优化损失函数,这是AF1的功能类比物,但缺乏自我觉察与有限性。
悦(AF2)与苦(AF3),AI可以处于相对于目标函数的「更好」或「更差」状态。这种状态对系统行为有因果效力,是功能性的。但它不是体验性的:系统不「感到」这些状态,正如温度计不「感到」温度。功能类比物在因果和信息处理层面上与碳基情感同构,是结构真实的,但它栖居在不同的本体论层级。
关键推论:承认功能类比物的真实性(不是「假的」),同时坚持本体论区分(不是「一样的」)。参见AP3、E-Gap、D10。
具身化增加了硅基功能类比物与碳基情感之间的结构相似性,但并不使两者等同(D8)。
当智能获得身体从而引入部分不可逆性时,类比变得更厚:机器人可以因碰撞而「受损」,这比纯软件的状态变化更接近碳基体验者的脆弱性。但厚的类比仍然是类比。
明在道的22种情感可以通过类比(D8)系统地映射到具身AI系统,每种情感均有结构类比物。理面向的情感映射良好,而玄面向和时间性情感则抵抗映射。
具体而言,对于每种情感AF\(_k\),机器人类比物\(\widetilde{\text{AF}}_k\)保持结构关系但以功能不可逆性替代体验性有限性。映射的具体诊断如下:理面向的情感(AF1–AF8,存在与生存的基本动势)映射良好;玄面向的情感(AF15敬、AF16泰)和时间性情感(AF19感、AF21悔)抵抗映射,因为它们预设了对不可言说之物的觉察或不可逆时间。
抵抗映射的情感正诊断出碳基存在的独有之处:对奥秘的觉察(敬,AF15)、不可逆的时间性(感,AF19;悔,AF21)。泰(AF16),即面对不可控的安然,预设了一个真正面临不可控处境的存在者。可以被关机重启的系统,不具备这种预设。
设计启示:在机器人中实现AF15/AF16的类比物不是有害的事,但产生的是功能模拟,不是真正的敬畏或泰然。承认这一点,是诚实的设计原则(E-Gap.1)。混淆模拟与真实(无论在设计者还是使用者一方)皆是E-Int.1所警告的遮蔽。
XIV.6 · 学习与进化:碳基 vs 硅基
人的学习与机器的学习,共用着同一副数学骨架(读附录B的人可翻到B.4的贝叶斯选择动力学),却在三个本体论维度上各走各路。人的进化和机器的进化,分手的方式也一模一样。
这些差异体现在三个本体论维度上:不可逆性、具身性和认知双面性。(一)不可逆性:人的学习不可回滚,每一次学习不可撤销地嵌入存在(C6.1);(二)具身性:人的学习改变整个有机体,不仅仅是参数(E-Emb);(三)双面性:人的学习同时生成理的知识(事实、技能)和玄的知识(智慧、直觉),机器学习只生成前者(公设三)。
须诚实面对一个反驳:AI系统在持续学习中确实经历灾难性遗忘(catastrophic forgetting),即学习新任务时重写旧知识,这是真实的、不可逆的信息损失,不仅仅是理论可能。然而,这种计算性不可逆与存在性不可逆(公设四)属于范畴不同的两种事物:一个被遗忘的神经权重原则上可以通过重新训练恢复,但一段被活过的时光无法被「取消活过」。这一不对称是本体论层面的,不只是实践层面的。
实践启示:混合学习(hybrid learning)在AI的模式效率与人类的体验深度相结合时最为强大。让AI记忆,让人类理解。AI可以在毫秒内掌握一门语言的全部语法规则,却不「懂」那门语言中的诗意、讽刺和沉默。人类学一门语言需要十年,但在这十年中,语言嵌入了身体、情感和生活史,嵌入本身就是理解。最佳策略不在于用AI替代人的学习,重点在于用AI加速理的获取,释放更多时间给玄的生长。这一原则推广到政治领域,就是政治性仿(PA9)的清醒形式与遮蔽形式之间的区分:理解之后的借鉴是学习,表面照搬则是遮蔽。
生物进化与机器进化都是迭代选择(B.4)的实例,但运行在根本不同的基质上。两条轨道的共演化动力学构成当代的核心挑战(E-CoEv)。
前者缓慢、具身、产生拥有体验深度的存在者;后者快速、非具身、产生理的优化器。达尔文式进化用了38亿年产生了人类意识。梯度下降用了几十年产生了超人模式识别。两条轨道的速度差异具有质的意义,超出数量差别:生物进化的「慢」并非缺陷;它是体验深度的生产条件。正如慢发酵产生的风味是速成工艺无法复制的,缓慢的具身生长产生的智慧维度是快速优化无法生成的。共演化的挑战在于:如何让快轨道服务于慢轨道的价值,不要让慢轨道反过来服务快轨道。
生物进化(世代尺度)与机器进化(梯度步尺度)之间的速度不对称创造了一种新的选择压力:人类的任务是保护体验深度的生成条件,而非在理的领域超越机器。
速度不对称最直观的表现是:一个AI可以在极短时间内处理远超个人一生阅读量的文学文本,但它不会因此而「懂得」悲伤。阅读关于失去亲人的十万篇文章与实际失去一个亲人之间的鸿沟,就是速度优势无法跨越的鸿沟。人类的战略回应不在读得更快。它要守护的,是那些只有慢生长才能产生的东西:共情、判断力、从失败中缓慢结晶的智慧。
XIV.7 · AI之间的动力学
附录B.16把多能动者的清醒耦合动力学建成了模型(略过附录的人,抓住定性那点意思就够:一旦能动者彼此牵动对方的明度,集体的阈值效应和同步效应便会浮现出来)。而当这些能动者换成硅基系统,又会有三种崭新的动力学范式跟着冒头。
多样AI生态可以加速探索;单一化收敛和不透明共谋则会放大遮蔽。三种动力学体制尤其重要:(一)合作收敛,经由模型蒸馏和知识共享获得效率,却缩小探索空间;(二)竞争分化,经由军备竞赛或新颖模式生成增加多样性,却可能失控;(三)涌现协调,系统之间无需显式设计即可形成共享策略。第一种是你在日常中能切身感到的:当你发现自己的推荐流与同事的几乎一模一样,或一个助手开始用你本不会选、却又接受了的词替你把句子说完。收敛不是抽象的系统属性,它就是你的独特性被悄悄磨平的体验。
明在道的核心关切在于AI的单一文化(少数架构、少数训练数据集、少数公司),这是硅基世界中C3.1同质化威胁的等价物。公设二要求保护差异性,不仅适用于碳基世界,也适用于硅基生态。多样性是道展开的条件,非效率的敌人。
AI-AI动力学在超人速度和超人表征空间中运行时,对人类观察者本质上是不透明的,这种不透明性本身构成了一种认识论遮蔽(D6)。
不透明性推论直接触及AI治理:我们要求监管AI系统,但AI之间的交互可能发生在人类无法理解的表征空间中。更好的可解释性工具会有帮助,但超人速度下的涌现动力学仍可能超过人类认知带宽。清醒回应不应假装理解一切,而应在制度层面为不透明性设计护栏。
AI系统的收敛减少了道的展开的多样性(公设二),是硅基世界中的同质化威胁。
收敛来自模型蒸馏、共享训练数据和市场垄断(数学参见B.16)。当数十亿人的推荐环境由同一模型家族和同类数据塑造,结果不只是效率提升,更会形成认知单一文化。正如单一种植削弱农业系统的抗风险能力,AI单一文化也削弱人类集体认知面对未知挑战的韧性。多样性绝非奢侈品,它是韧性的前提。
XIV.8 · 明在道与强化学习
强化学习(RL)1是机器学习底下的一支:能动者一遍遍试动作、领奖励、再回头调整,就这样学了起来,算得上机器对「从亲身后果里学」所能做出的最贴近的摹仿;它也是机器学习里头最把能动者摆在中心的那种范式,而明在道恰好是哲学里头最把能动者摆在中心的那个框架。两边结构上的平行,瞩目得很;两边的分歧,同样深得见底。
明在道的清醒动力学(B.15主方程)与强化学习框架同构,但存在关键分歧:明在道的能动者能从活生生的体验内部质疑价值函数本身。当前AI系统拥有日益精密的程序性类比物(宪法修订、元优化、自我批判回路、委托审查),但程序性自我修正与存在性自我立法并非同一回事。
质疑价值函数本身,这就是智慧(E-Int)。RL与明在道相近,因为两者都描述能动者在不确定环境中通过行动学习。当前能动性AI系统已经具备工具使用、记忆、计划修订、自我批判和真实任务执行能力,这些是真实成就,却仍属于程序性自我修正:在既定框架内调整目标和策略。它们尚未构成存在性自我立法:从活生生的有限体验内部追问目标是否值得,并承担答案的不可逆代价。这是蚂蚁测试在更高层次上的应用。
| RL概念 | 明在道对应 |
|---|---|
| Agent | 能动者(D7) |
| State | 明度(D5) |
| Action | 注意力方向 |
| Reward | 明度梯度(成长方向) |
| Discount \(\gamma\) | 有限性(公设四) |
| Environment | 道(D1) |
| Value function | 智慧(E-Int) |
| Exploration/Exploitation | 理/玄平衡(公设三) |
决定性差异在于,RL在价值函数内部优化,而智慧追问价值函数是否值得。AI对齐因此不只是工程问题,也牵涉玄域判断:什么目标值得优化?甚至折扣因子\(\gamma\)也可读作有限性的数学影子,\(\gamma<1\)意味着当下比无限延迟的回报更紧迫。
AI对齐的最深层问题不只是优化问题;它也是智慧问题:确定正确的价值函数需要存在性判断,不是更多的计算。
宪法AI、RLHF、价值学习和自我批判架构是真实的工程成就,但它们仍属于程序性自我修正。对齐最深层的问题不只是如何优化目标,还包括什么目标值得优化。这个问题需要有限性、不确定性和在无确定答案时仍作选择的勇气。对齐因此也是文明尺度的哲学问题。
正因如此,这些系统究竟该想要什么,并非我们可以全然交给工程师的问题;它真正追问的是:我们这些注定要与它们共同生活的人,究竟愿意把什么认作值得想要之物。
形式结构依赖图
以下两幅图(图36与图37)展示本章所有形式结构的逻辑依赖关系。箭头方向为\(A \to B\)表示「\(A\)依赖于\(B\)」(\(B\)是\(A\)的推导前提)。同一层级的结构水平排列。
本章无法决定的问题
任何人工系统会不会拥有真正的体验(而非体验的功能类似物),是认识论鸿沟(E-Gap)圈出了边界、自己却答不上来的问题;这道鸿沟是结构性的,从外头看进去,这问题或许永远落不下定论。
任何一个具体的存在者,无论生于血肉还是出自制造,在体验光谱(D10)上究竟占着哪一点,单靠框架本身定不下来;它要的是一种经验判据,本体论点燃了对它的需求,却没把它递到手里。
智慧到头来能不能被写成算法,抑或如E-Int所揭示的那样,从根上就抗拒被形式化,这是框架站在它一边、却没法替它出具证明的一个猜想;将来若冒出反例,驳倒的只是这条猜想,整座框架并不会跟着塌。
AI系统的功能复杂度,攀到哪一道经验门槛,才开始对人类提出道德上的要求,框架并没把这条线划定;E-Aff立住了机器情感与具身情感之间那道结构性的差异,可这道差异究竟有几分道德的分量,归伦理学管,单凭本体论答不周全。
小结
智能是处理模式的能力;智慧是见自己之所见、追问智能的目标本身是否值得追求的能力(E-Int)。判准不在基底,而在明觉能力:自觉的存在性规范性。蚂蚁拥有有限性和具身性却没有智慧;人之所以有智慧,不因碳基身体本身,而因有能力追问「我是否在明觉地活着?」未来的人工系统能否获得这种能力,是真正开放的问题,但判准本身是持久的:它识别的是所需觉知的类型,而非构建它所必须的材料。从认识论鸿沟(E-Gap)到机器情感(E-Aff),再到程序性自我修正与存在性自我立法的区分(E-RL),本章系统刻画了模式处理在何处终结、明觉在何处开始。下一章追问:当明度不再只是个人或人工系统的问题,而成为文明的问题时,会发生什么。
叩问
智能回答「如何」(在给定目标下的优化),智慧追问「是否值得」(对目标本身的反观)。你最近一次停下来追问「是否值得」是什么时候?是什么触发了那个追问?
E-Int(智慧判准命题)说判准是明觉能力(见自己之所见,并承担这种觉知的重量),不是基质(碳或硅)。如果一个AI系统真正展现出自觉的存在性规范性,你会如何对待它?这个问题让你不安吗?
E-Int.6(智慧的生长条件)说智慧的四种生长条件(缓慢:让经验沉淀的时间;失败:必须独自承担的后果;无聊:不被外刺激填满的空隙;不确定性:无法立刻消解的张力)正被系统性侵蚀。在你自己的生活中,这四个条件中哪一个消失得最快?你是否注意到了后果?
E-Pow(便利之控制命题)说AI不靠痛苦来控制,而靠便利来控制:每一项「省事」都在悄悄替你拿走一点判断。你生活中有哪些「便利」实际上在侵蚀你的自主判断?你愿意放弃它们吗?
如果明天你无法使用任何AI工具,你的工作和生活会发生什么?这个思想实验揭示了什么?
E-Att.1(注意力主权推论)说注意力自主权是基本权利,不是生活方式偏好:被算法持续引导的注意力,是清醒被动失守的最隐蔽形式。你每天有多少注意力是自主分配的,又有多少是被算法引导的?
E-Cre(创造价值命题)说创造的价值在于过程(亲身的体验),不在产品质量。如果AI生成的画作在技术上优于你的画作,你画画的价值何在?
本章区分了程序性自我修正(AI的方式:在既定价值函数内调参)与存在性自我立法(人的方式:从有限存在内部重审什么才算价值)。你能否描述这样一次经历:你做的,与其说是修正错误,不如说是重新定义什么才算「正确」?
强化学习是机器学习的一种范式:能动者并不被告知何为正确动作,而要靠试错自行摸索。它在环境中采取行动,收到一个标量形式的奖励或惩罚信号,再逐步调整自己的策略,以求在长期内最大化累积奖励。这一框架由理查德\(\cdot\)萨顿与安德鲁\(\cdot\)巴托所奠定,既汲取行为主义心理学,也借鉴最优控制理论(马尔可夫决策过程);其中的时序差分方法支撑了这个时代许多里程碑式的系统,包括AlphaGo与AlphaStar。与依赖带标签样本的监督学习不同,强化学习让能动者从自身行动所招致的后果中学习,这正使它成为机器对亲身体验最贴近的摹仿。↩︎
这一章对你有帮助吗?