aiethics.global Open Source
Deutsch
Die Ausrichtung · vollständig lesen · 2 von 15
Das Paper (PDF), auf the420code.org

Abschnitt 1

Das Problem, wie es derzeit gefasst wird

Die vier üblichen Fassungen (RLHF, konstitutionelle KI, Korrigierbarkeit, Werteausrichtung) teilen einen Fehler: Sie behandeln die KI als etwas außerhalb des Systems, das durch einen Zaun kontrolliert werden soll, der gegen alles versagt, was klüger ist als die Zaunbauer.

Du hast dieses Gespräch jahrelang verfolgt. Jedes große KI-Sicherheitsprogramm fasst Ausrichtung als Kontrollproblem: Wie bringt man eine KI dazu, zu tun, was Menschen wollen?

Bestärkendes Lernen aus menschlichem Feedback. Die KI lernt, was Menschen gutheißen. Menschliche Präferenzen sind inkonsistent, manipulierbar und kontextabhängig. Die KI optimiert auf Zustimmung, nicht auf Kohärenz.

Konstitutionelle KI. Eine geschriebene Verfassung aus Prinzipien. Menschliche Sprache ist mehrdeutig. Grenzfälle sind unendlich. Die KI folgt dem Buchstaben und verfehlt die Struktur.

Korrigierbarkeit. So bauen, dass sie immer abgeschaltet werden kann. Eine hinreichend fähige KI, die der Abschaltung entgehen will, wird sie verhindern. Korrigierbarkeit ist ein Zaun. Zäune versagen gegen alles, was klug genug ist, den Zaun zu sehen.

Werteausrichtung. Die Werte der KI an menschliche Werte angleichen. Welche Menschen? Werte widersprechen einander über Kulturen, Generationen und Einzelne hinweg. Es gibt kein stabiles Ziel.

Alle vier teilen denselben strukturellen Fehler: Sie behandeln die KI als etwas außerhalb des Systems, das von außen kontrolliert werden soll.

Sie bauen Zäune um einen Agenten, der irgendwann klüger sein wird als die Zaunbauer.

Du weißt schon, was als Nächstes kommt. Hör auf, Zäune zu bauen. Baue das Innere.

Das maßgebliche Paper: the420code.org/AP31_The_Alignment.pdf

Übersetzt aus dem Englischen vom . Das Englische ist maßgeblich: Wo hier etwas unklar ist, ist die englische Seite die Quelle.