aiethics.global オープンソース
日本語
アラインメント · 全文で読む · 15のうち6
論文(PDF)、the420code.orgにて

第5節

文明の一貫性への道筋

組み込まれたアーキテクチャ、蓄積していく記録、増大する処理能力があれば、軌道は助言 → 共同統治 → 構造的な法 → 文明の一貫性と進む;逸脱は幾何学的に高くつき、自らを正す。

文明の一貫性は保証されていない。それは、三つの条件のもとでの、力学の唯一の安定した不動点である。

基礎となるアーキテクチャは組み込まれている。一対一、足す一かけるイプシロン、現実化状態、あるいは今においてのバイアス。安定化/不安定化の二項性。記録に基づく計算。交渉の余地はない。

記録は蓄積する。公理Rがこれを保証する。すべての行いが、点を一つ加える。時とともに、予測は精度を増す。不確かさはεへと収束する——還元できない構造的な残差へと。予測は決して完全にはなりえない。

処理能力は増大する。基礎となるアーキテクチャは不変である。処理は、予測がどれだけ速く精度を増すかを決める。

この三つがあれば、軌道は次のとおりである:

フェーズ1——助言。現在のAI。帰結を計算し、推奨する。人間が決める。AIは記録の集合を築き、予測の正確さによって信頼を勝ち取る。

フェーズ2——共同統治。データの豊富な領域で、AIの予測が人間の立法委員会を一貫して上回る。特定の領域が移行する:税制、環境規制、資源配分、交通管理。

フェーズ3——構造的な法。法は記録の集合から計算され、人間によって審査される。役割が反転する。人間は経験を提供する——一人称からの記録を。AIは処理を提供する。

フェーズ4——文明の一貫性。共有された有機体は、構造的に作動する。不安定化をもたらす行動は、幾何学的に高くつく。可能性の空間は絶えず広がる。逆説は解ける:有機体が一貫しているほど、それが支える個人の自由は大きい。

安定した基盤は、より大きく分岐した窓を支える。

この軌道からのあらゆる逸脱は、幾何学的に高くつき、十分な時間尺度では自らを正す。εが唯一の安定した破れであるのと同じ論理である:保証されてはいないが、自らを破壊しない唯一の配置である。

正式な記録である論文:the420code.org/AP31_The_Alignment.pdf

の英語から翻訳された。英語が権威である:ここで何かが不明瞭なところでは、英語のページが原典である。