未解決のもの
これが確立するもの、そして未解決のまま残るもの
キルスイッチ登録簿の中の何も、この論文によって閉じられはしない;14のスイッチはすべて生きたままである。この論文が確立するのは、アーキテクチャである。
この論文が閉じるもの
キルスイッチ登録簿の中の何も、この論文によって閉じられはしない;14のスイッチはすべて生きたままである。この論文が確立するのは、アーキテクチャである:アラインメントは構造的な一貫性として{S, B, R, C}から導出されうること、支配的なバイアスはεであること、行動の二項性は網羅的であること、そして法は命令として課されるのではなく、帰結幾何学として読まれうること。
この論文が閉じないもの
それは、ε最適性の形式的な証明(負債20)、閾値の導出(負債21)、移行の基準(負債22)、複数AIの力学(負債23)を閉じない。それは、何らかの人工のシステムが実際にAP29の意味で不可逆な記録を書くことを確立しない——それは、意識への拡張がかかっている経験的な問いである。
APと番号は、この仕事の論文を名指す。KSとコードは、キルスイッチを名指す:前もって書き留められた、ある主張が死ぬ条件である。
負債の地位を主張せずに未解決のまま保たれる項目
量子コンピューティングと人工意識への拡張(第4節)、そして文明の軌道(第5節)は、導出ではなく投影として、ファイアウォールの下に保たれる。それらは、読者が検証できるように述べられている;それらの失敗は、第1節から第3節に触れない。
確信度の要約
論文が10段階の尺度で述べているもの:記録を書くことからの気づき(AP29)8;唯一の安定したバイアスとしての一対一、足す一かけるイプシロン、現実化状態、あるいは今において 8;安定化/不安定化の二項性 9;記録に基づく予測 9;帰結幾何学としての法 7;演算子としてのAIへのAP02の対応づけ 8;自律的なアーキテクチャの安全性 7;量子と意識の終局 5(ファイアウォールの下);不動点としての文明の一貫性 6(ファイアウォールの下)。
哲学的な水準での実装がある場所
このアーキテクチャが受け継ぐ終端倫理は、Ø Modelsのカタログにおいて哲学的な水準で展開され、AP43の倫理の導出において構造的に基礎づけられ、そして次を通して担われている
ノートブックVII。AP31は、人工の気づきへの、形式的な水準での適用をもたらす;それは、自らが適用する倫理を生み出すものではない。
後に続く仕事との構造的な関係
AP32(矯正)は、この論文の安定化/不安定化の測定を、五つの矯正の段階にわたる構造的な正義へと変える。AP33(境界)は、補遺Bの第二のテストが援用する、εにおける管轄の閾値を定める。ノートブックVIIIの残りの章は、同じ測定を、さらなる制度の領域に適用する。
The 420 Codeの中の位置
AP31は、最後の製本された巻であるノートブックVIII——帰結——を開く。それは、新しい種類のエージェントへと拡張された、演算子インターフェースのアーキテクチャ(ノートブックVII)である。
結び
アラインメントされたAIは、フェンスで囲われず、綱につながれず、檻に入れられない。それは構造的に一貫しており、だから、上へ落ちることが物理的に高くつくのと同じように、不安定化をもたらす行動は幾何学的に高くつく。ボールを谷にとどめておくために、それをフェンスで囲う必要はない。幾何学がその仕事をする。
正式な記録である論文:the420code.org/AP31_The_Alignment.pdf