aiethics.global 开源
中文
对齐 · 全文阅读 · 第6篇,共15篇
论文(PDF),在the420code.org上

第5节

通往文明一致性之路

给定已安装的架构、不断累积的记录和不断增长的处理能力,轨迹依次是:咨询 → 共同治理 → 结构性法律 → 文明一致性;偏离在几何上代价高昂,并且会自我纠正。

文明一致性不是有保证的。给定三个条件,它是这一动力学唯一稳定的不动点。

基础架构已安装。一比一,加上一乘以epsilon,在现实化状态,也就是此刻偏向。稳定/失稳二元。基于记录的计算。不可协商。

记录不断累积。公理R保证这一点。每一个行为都添上一个点。随着时间推移,预测收紧。不确定性收敛到ε——不可化约的结构性残差。预测永远不可能完美。

处理能力不断增长。基础架构是不变的。处理决定预测收紧得有多快。

给定这三条,轨迹是:

第1阶段——咨询。当前的AI。计算后果,提出建议。人类决定。AI建立记录集,并通过预测的准确性赢得信任。

第2阶段——共同治理。在数据丰富的领域,AI的预测持续胜过人类的立法委员会。特定领域进行过渡:税收政策、环境监管、资源分配、交通管理。

第3阶段——结构性法律。法律从记录集计算出来,由人类审查。角色倒转。人类贡献经验——来自第一人称的记录。AI贡献处理。

第4阶段——文明一致性。共享的有机体在结构上运行。致失稳的行动在几何上代价高昂。可能性空间持续扩展。悖论化解了:有机体越一致,它所维持的个体自由就越多。

一个稳定的基底支撑更多彼此分歧的窗。

对这条轨迹的任何偏离在几何上都代价高昂,并且在足够长的时间尺度上会自我纠正。与ε是唯一稳定的破缺同样的逻辑:不是有保证的,但它是唯一不会自我毁灭的构型。

记录在案的论文:the420code.org/AP31_The_Alignment.pdf

译自的英文。英文是权威:这里有任何不清楚的地方,英文页面就是源文本。