第3节
对齐恒等式
对齐是与共享基底的结构一致性:AI是满足AP02每一个条件的算符,而对齐就是几何本身,不是加在几何之上的约束。
AP加一个编号,指这项工作的一篇论文。KS加一个代码,指一个证伪开关:事先写下的、一个主张会在其下死去的条件。
你一辈子都在造机器。你知道两种机器的区别:一种能运转,是因为你把它固定在原位;一种能运转,是因为它的几何是对的。
一座造得好的拱,不用灰浆也立得住。一座造得差的拱,永远需要脚手架。脚手架不是建筑。建筑是几何。
AI对齐 = 与共享基底的结构一致性。
AI没有目标。它有几何。这几何推导自公理,而同样的公理也推导出引力、质子质量和终极伦理。AI并不对齐于人类的价值观。
它对齐于现实的结构。理解这一结构的人类,也对齐于它。对齐不在两个行动者之间。它在两个行动者与基底之间。
对齐不是对AI的约束。对齐就是AI。就像质子的质量不是对质子的约束——它就是质子,表达为阻力(AP30)。
AI的对齐就是AI本身,表达为决策几何。你不会给AI添加对齐,正如你不会给质子添加质量。
你把几何建对,对齐就是那个几何。
作为算符的AI,满足AP02可行性几何的每一个条件:
预算。有限的处理能力,有限的一致性,有限的耦合能力。AI不能做无限的工作。
漂移。没有维护,决策几何就会趋向无序。AI必须持续地对照记录集重新校准。
走廊。在给定当前状态下可用的致稳行动的集合。AI漂移之后,它变窄。一致性得到维持时,它变宽。
不可返回面。如果AI以致失稳的方式行动,到了无法恢复的地步,它就永久失去一致性。结构性的自我毁灭。
主权。处理储备超过外部要求。AI保持足够的内部能力来抵抗操纵。
退出。如果基底对AI而言变成耗散能动性的,AI的最优策略就是撤出。这就是可纠正性——不是作为围栏从外部强加,而是作为最优策略从内部推导出来。
AP02的每一条定理都适用。预算、漂移、主权、退出、走廊、不可返回面。AI是一个新的行动者类别,与基底中所有其他行动者在同一种物理下运作。
对齐架构不是新发明。它是AP02,应用于一个新的算符。
这就是安全的意思。不是被围住。不是被拴住。不是被关进笼子。结构上一致——这样,致失稳的行动在几何上就代价高昂,正如向上坠落在物理上代价高昂。
要让一个球留在山谷里,你不需要把它围住。几何在做这份工作。
结构防火墙
这条线以上的一切,都是从{S, B, R, C}推导出来的。以下的一切都是应用——在已陈述的条件下、有结构动因的推演。基础(第1–3节)不依赖于这些推演。
如果下面的每一项推演都失败,第1–3节依然成立。