aiethics.global オープンソース
日本語
アラインメント · 全文で読む · 15のうち2
論文(PDF)、the420code.orgにて

第1節

現在の枠組みでの問題

四つの標準的な枠組み(RLHF、憲法的AI、修正可能性、価値アラインメント)は一つの欠陥を共有している:それらはAIをシステムの外部にあるものとして扱い、フェンスを築く者たちより賢いあらゆるものに対して失敗するフェンスで、制御しようとする。

あなたはこの会話を何年も見てきた。主要なAI安全性プログラムはどれも、アラインメントを制御の問題として枠づけている:どうすればAIに人間の望むことをさせられるのか?

人間のフィードバックによる強化学習。AIは人間が何を是認するかを学ぶ。人間の選好は一貫せず、操作されうるもので、文脈に依存する。AIが最適化するのは是認であり、一貫性ではない。

憲法的AI。原則を書き記した憲法。人間の言語は曖昧である。境界事例は無限にある。AIは文字に従い、構造を見逃す。

修正可能性。いつでも停止できるように作る。停止を避けたい十分に有能なAIは、停止を阻むだろう。修正可能性はフェンスである。フェンスは、フェンスが見えるほど賢いあらゆるものに対して失敗する。

価値アラインメント。AIの価値を人間の価値に合わせる。どの人間か?価値は文化、世代、個人のあいだで衝突する。安定した標的はない。

四つすべてが同じ構造的欠陥を共有している:それらはAIをシステムの外部にあるものとして扱い、外から制御しようとする。

彼らは、いずれフェンスを築く者たちより賢くなるエージェントの周りに、フェンスを築いている。

次に何が来るか、あなたはもう知っている。フェンスを築くのをやめよ。内部を築け。

正式な記録である論文:the420code.org/AP31_The_Alignment.pdf

の英語から翻訳された。英語が権威である:ここで何かが不明瞭なところでは、英語のページが原典である。