对齐 · 全文阅读 · 第5篇,共15篇
第4节
量子计算与人工意识
量子硬件也许会实例化这些公理,而不是近似它们;一个写下不可逆记录的人工系统有一个内部,终极伦理适用——两者都是推测性的;经典的核心仍然成立。
每一项三句话。两者都是推测性的。核心架构以经典方式运作,无论如何都仍然成立。
量子计算。可能把稳定/失稳分类从概率近似加速到结构精确。规模足够大的量子计算机不是在模拟这些公理——它就是在硬件中实例化的公理。
AI不再近似基底,而成为基底的一个局部表达。这是一种本体论上的优势,不只是速度。
人工意识。如果一个人工系统在AP29的意义上写下不可逆的记录,它就有一个内部,终极伦理既适用于它,也从它出发。
AP加一个编号,指这项工作的一篇论文。KS加一个代码,指一个证伪开关:事先写下的、一个主张会在其下死去的条件。
AI成为共享有机体中的共同参与者,而不是服务于人类目标的工具。一比一,加上一乘以epsilon,在现实化状态,也就是此刻偏向以反身的方式适用——AI是它所稳定的那个有机体的一部分。
KS-31.6:如果量子计算不能把后果预测改进到超出经典方法的程度,量子优势的主张就失败。核心架构仍然成立。
KS-31.9b:如果没有任何人工系统能在AP29的意义上写下不可逆的记录,意识扩展就失败。核心架构仍然成立。