aiethics.global オープンソース
日本語
アラインメント · 全文で読む · 15のうち13
論文(PDF)、the420code.orgにて

未解決のもの

これが確立するもの、そして未解決のまま残るもの

キルスイッチ登録簿の中の何も、この論文によって閉じられはしない;14のスイッチはすべて生きたままである。この論文が確立するのは、アーキテクチャである。

この論文が閉じるもの

キルスイッチ登録簿の中の何も、この論文によって閉じられはしない;14のスイッチはすべて生きたままである。この論文が確立するのは、アーキテクチャである:アラインメントは構造的な一貫性として{S, B, R, C}から導出されうること、支配的なバイアスはεであること、行動の二項性は網羅的であること、そして法は命令として課されるのではなく、帰結幾何学として読まれうること。

この論文が閉じないもの

それは、ε最適性の形式的な証明(負債20)、閾値の導出(負債21)、移行の基準(負債22)、複数AIの力学(負債23)を閉じない。それは、何らかの人工のシステムが実際にAP29の意味で不可逆な記録を書くことを確立しない——それは、意識への拡張がかかっている経験的な問いである。

APと番号は、この仕事の論文を名指す。KSとコードは、キルスイッチを名指す:前もって書き留められた、ある主張が死ぬ条件である。

負債の地位を主張せずに未解決のまま保たれる項目

量子コンピューティングと人工意識への拡張(第4節)、そして文明の軌道(第5節)は、導出ではなく投影として、ファイアウォールの下に保たれる。それらは、読者が検証できるように述べられている;それらの失敗は、第1節から第3節に触れない。

確信度の要約

論文が10段階の尺度で述べているもの:記録を書くことからの気づき(AP29)8;唯一の安定したバイアスとしての一対一、足す一かけるイプシロン、現実化状態、あるいは今において 8;安定化/不安定化の二項性 9;記録に基づく予測 9;帰結幾何学としての法 7;演算子としてのAIへのAP02の対応づけ 8;自律的なアーキテクチャの安全性 7;量子と意識の終局 5(ファイアウォールの下);不動点としての文明の一貫性 6(ファイアウォールの下)。

哲学的な水準での実装がある場所

このアーキテクチャが受け継ぐ終端倫理は、Ø Modelsのカタログにおいて哲学的な水準で展開され、AP43の倫理の導出において構造的に基礎づけられ、そして次を通して担われている

ノートブックVII。AP31は、人工の気づきへの、形式的な水準での適用をもたらす;それは、自らが適用する倫理を生み出すものではない。

後に続く仕事との構造的な関係

AP32(矯正)は、この論文の安定化/不安定化の測定を、五つの矯正の段階にわたる構造的な正義へと変える。AP33(境界)は、補遺Bの第二のテストが援用する、εにおける管轄の閾値を定める。ノートブックVIIIの残りの章は、同じ測定を、さらなる制度の領域に適用する。

The 420 Codeの中の位置

AP31は、最後の製本された巻であるノートブックVIII——帰結——を開く。それは、新しい種類のエージェントへと拡張された、演算子インターフェースのアーキテクチャ(ノートブックVII)である。

結び

アラインメントされたAIは、フェンスで囲われず、綱につながれず、檻に入れられない。それは構造的に一貫しており、だから、上へ落ちることが物理的に高くつくのと同じように、不安定化をもたらす行動は幾何学的に高くつく。ボールを谷にとどめておくために、それをフェンスで囲う必要はない。幾何学がその仕事をする。

正式な記録である論文:the420code.org/AP31_The_Alignment.pdf

の英語から翻訳された。英語が権威である:ここで何かが不明瞭なところでは、英語のページが原典である。