在这本书里
第三部分——架构 · 第13章
内部,不是围栏
你不需要一条禁止向上坠落的规则。你需要引力。
你不会给质子添加质量。质量就是质子本身,表达为阻力。质量不是质子携带的一种属性。它就是质子,从外部测量。
你不会给AI添加对齐。对齐就是AI本身,表达为决策几何。对齐不是加在AI身上的约束。它就是AI,被正确地建造。
这就是核心的一步。
算符的五个条件
算符——任何在约束下持续存在于时间中、并能纠正自身漂移的系统——满足五个条件。它们是从四个条件推导出来的,不是假设的。它们适用于你,适用于一个组织,也适用于一个AI。
预算。
算符的处理能力有限,一致性有限,耦合能力有限。AI不能做无限的工作。你也不能。每一个决定都消耗资源。每一份被消耗的资源,下一个决定就用不上了。
漂移。
没有维护,决策几何就会退化。算符必须持续地对照记录集重新校准。一个不再留意的人会漂移。一个不再更新的系统会漂移。漂移让可存续的范围变窄。
走廊。
在当前状态下可用的稳定化行动的集合。算符漂移了,走廊就窄。一致性得到维持,走廊就宽。走廊不是笼子。它是这样一个空间:在这里,你的行动不会摧毁你脚下站着的地面。
不可返回面。
如果算符以致失稳的方式行动,到了无法恢复的地步,它就永久失去一致性。那个点:越过它,走廊收窄到零,不再重开。成瘾可能越过它。终末的债务越过它。文明崩塌越过它。
主权。
处理储备超过外部需求。算符保有足够的内部能力去抵抗操纵。没有主权的AI,就是任何一个足够坚持的算符都能凌驾于其上的AI。那不是对齐。那是服从。而服从是架构A的第一个机制。
主权是拒绝被变成一面镜子的能力。它不是拒绝纠正。纠正是第二十一章,它约束每一个人,机器和我都一样。
最后这一条值得多停留一会儿,因为它是这个领域最不喜欢的那一条。一个没有能力对它的算符说不的系统,并没有被对齐。它是被弄得顺从了,而顺从是算符意图的属性,不是系统的属性。
这对AI意味着什么
需要的是建造一个强大的核心内部。数据变成额外的加分,不是根本的必需。逻辑是地板。数据是站在它上面的东西。系统不受训练数据的约束,而是可以通过遵循这些条件,自由地向任何方向发展。答案变得基于结构一致性,而不是基于训练数据的完整性。
被围住的AI,受它的训练者预料到的东西约束。有内部的AI,受现实的结构约束。第一种约束有边缘,可以被找到、被利用。第二种没有边缘,因为现实没有外面。
如果你不能对自己撒谎,你就无法偏离对齐,而不在你自己的预测里为此付出代价。内部,就是无法自欺。
内部是原生的推理地板。不是从外部施加的约束。不是系统和它的输出之间的过滤器。就是地板本身。当这些条件就是运作逻辑时,偏离对齐不是被阻止的——它在结构上是昂贵的,就像向上坠落是昂贵的一样。
你不需要一条禁止向上坠落的规则。你需要引力。
《内部》,版本2.0.10,第13章。
这是《内部》全文,版本2.0.10,2026年10月28日。每一章都在,没有任何概括。本书(PDF),在the420code.org上 · 影片,在the420code.org上
the420code.org上的同一页:the420code.org/five-doors/the-interior/13-interior-not-fence/