aiethics.global 开源
中文
对齐 · 全文阅读 · 第13篇,共15篇
论文(PDF),在the420code.org上

什么未决

这确立了什么,什么仍未决

证伪开关注册表中没有任何一项被本文关闭;全部14个开关仍然有效。本文确立的是架构。

本文关闭了什么

证伪开关注册表中没有任何一项被本文关闭;全部14个开关仍然有效。本文确立的是架构:对齐可以从{S, B, R, C}推导出来,作为结构一致性;主导的偏向是ε;行动的二元是穷尽的;法律可以被读作后果几何,而不是作为命令被强加。

本文没有关闭什么

它没有关闭形式的ε最优性证明(债务20)、阈值推导(债务21)、过渡判据(债务22)或多AI动力学(债务23)。它没有确立任何人工系统事实上在AP29的意义上写下不可逆的记录——那是意识扩展所取决的经验问题。

AP加一个编号,指这项工作的一篇论文。KS加一个代码,指一个证伪开关:事先写下的、一个主张会在其下死去的条件。

保持未决但不声称为债务的事项

量子计算与人工意识的扩展(第4节)和文明轨迹(第5节)被保持在防火墙之下,作为推演,不是推导。陈述它们,是为了让读者能检验它们;它们的失败不触及第1至3节。

置信摘要

由本文陈述,按十分制:来自记录书写的觉知(AP29)8分;一比一,加上一乘以epsilon,在现实化状态,也就是此刻作为唯一稳定的偏向8分;稳定/失稳二元9分;基于记录的预测9分;作为后果几何的法律7分;AP02到作为算符的AI的映射8分;自主架构的安全性7分;量子与意识的终局5分(位于防火墙之下);作为不动点的文明一致性6分(位于防火墙之下)。

哲学层面的实现所在之处

这一架构所继承的终极伦理,在Ø 模型目录中于哲学层面得到发展,在结构上奠基于AP43的伦理推导,并贯穿

笔记VII。AP31提供对人工觉知的形式层面的应用;它不是它所应用的伦理的源头。

与后续工作的结构关系

AP32(《纠正》)把本文的稳定/失稳测量,变为跨越五个纠正层级的结构正义。AP33(《边界》)把附录B的第二个测试所援引的管辖门槛设在ε。笔记VIII其余各章把同一测量应用到更多的制度领域。

在The 420 Code中的位置

AP31开启笔记VIII——后果,装订成册的最后一卷。它是延伸到一个新的行动者类别上的算符界面架构(笔记VII)。

结语

一个对齐的AI不是被围住、被拴住或被关进笼子的。它在结构上是一致的,因此致失稳的行动在几何上代价高昂,正如向上坠落在物理上代价高昂。要让一个球留在山谷里,你不需要把它围住。几何在做这份工作。

记录在案的论文:the420code.org/AP31_The_Alignment.pdf

译自的英文。英文是权威:这里有任何不清楚的地方,英文页面就是源文本。