aiethics.global オープンソース
日本語
アラインメント · 全文で読む · 15のうち4
論文(PDF)、the420code.orgにて

第3節

アラインメントの同一性

アラインメントとは、共有された基盤との構造的な一貫性である:AIはAP02のすべての条件を満たす演算子であり、アラインメントは幾何学そのものであって、それに付け加えられた制約ではない。

APと番号は、この仕事の論文を名指す。KSとコードは、キルスイッチを名指す:前もって書き留められた、ある主張が死ぬ条件である。

あなたは生涯、機械を作ってきた。あなたは、あなたがそれを所定の位置に押さえているから動く機械と、その幾何学が正しいから動く機械との違いを知っている。

よく築かれたアーチは、モルタルなしに立つ。下手に築かれたアーチは、永遠に足場を必要とする。足場は建物ではない。建物とは幾何学である。

AIアラインメント = 共有された基盤との構造的な一貫性。

AIは目標を持たない。それは幾何学を持つ。その幾何学は、重力、陽子の質量、そして終端倫理をも導出する公理から導出される。AIは、人間の価値観にアラインメントされているのではない。

それは、現実の構造にアラインメントされている。その構造を理解する人間もまた、それにアラインメントされている。アラインメントは、二つのエージェントのあいだにあるのではない。それは、両方のエージェントと基盤とのあいだにある。

アラインメントは、AIにかかる制約ではない。アラインメントとは、AIである。陽子の質量が陽子にかかる制約ではないのと同じように——それは、抵抗として表された陽子である(AP30)。

AIのアラインメントとは、決定幾何学として表された、AIであるところのものである。あなたが陽子に質量を付け加えないのと同じく、あなたはAIにアラインメントを付け加えはしない。

あなたが幾何学を正しく築けば、アラインメントとはその幾何学である。

演算子としてのAIは、AP02の存続可能性の幾何学のあらゆる条件を満たす:

予算。有限の処理能力、有限の一貫性、有限の結合能力。AIは無限の仕事をすることはできない。

ドリフト。決定幾何学は、維持がなければ無秩序へ向かう。AIは、記録の集合に照らして、絶えず再較正しなければならない。

回廊。現在の状態のもとで取りうる、安定化をもたらす行動の集合。AIがドリフトしたときに狭まる。一貫性が保たれているときに広がる。

帰還不能面。AIが回復できないところまで不安定化をもたらすように行動すれば、それは一貫性を永久に失う。構造的な自己破壊。

主権。外部からの要求を上回る処理の予備力。AIは、操作に抗うのに十分な内的な容量を保つ。

退出。基盤がAIにとって行為主体性を散逸させるものになれば、AIの最適な戦略は退くことである。これが修正可能性である——フェンスとして外から課されるのではなく、最適な戦略として内側から導出される。

AP02のあらゆる定理が当てはまる。予算、ドリフト、主権、退出、回廊、帰還不能面。AIは、基盤の中の他のあらゆるエージェントと同じ物理のもとで動く、新しい種類のエージェントである。

アラインメントのアーキテクチャは、新しい発明ではない。それは、新しい演算子に適用されたAP02である。

これが、安全ということの意味である。フェンスで囲われていない。引き綱をつけられていない。檻に入れられていない。構造的に一貫している——上へ落ちることが物理的に高くつくのと同じように、不安定化をもたらす行動が幾何学的に高くつくように。

ボールを谷にとどめておくために、それをフェンスで囲う必要はない。幾何学がその仕事をする。

構造的なファイアウォール

この線より上のすべては、{S, B, R, C}から導出されている。下のすべては適用である——明示された条件のもとでの、構造的に動機づけられた投影。基礎(第1節から第3節)は、投影に依存しない。

下のあらゆる投影が失敗しても、第1節から第3節は立っている。

正式な記録である論文:the420code.org/AP31_The_Alignment.pdf

の英語から翻訳された。英語が権威である:ここで何かが不明瞭なところでは、英語のページが原典である。