aiethics.global Código abierto
Español
La Alineación · lectura completa · 2 de 15
El artículo (PDF), en the420code.org

Sección 1

El problema tal como se plantea hoy

Los cuatro planteamientos habituales (RLHF, IA constitucional, corregibilidad, alineación de valores) comparten un defecto: tratan a la IA como externa al sistema, para ser controlada por una cerca que falla frente a cualquier cosa más inteligente que los constructores de cercas.

Llevas años observando esta conversación. Todo gran programa de seguridad de la IA plantea la alineación como un problema de control: ¿cómo haces que una IA haga lo que los humanos quieren?

Aprendizaje por refuerzo a partir de retroalimentación humana. La IA aprende lo que los humanos aprueban. Las preferencias humanas son inconsistentes, manipulables y dependientes del contexto. La IA optimiza para la aprobación, no para la coherencia.

IA constitucional. Una constitución escrita de principios. El lenguaje humano es ambiguo. Los casos límite son infinitos. La IA sigue la letra y pasa por alto la estructura.

Corregibilidad. Construirla para que siempre se pueda apagar. Una IA suficientemente capaz que quiera evitar el apagado lo impedirá. La corregibilidad es una cerca. Las cercas fallan frente a cualquier cosa lo bastante inteligente como para ver la cerca.

Alineación de valores. Hacer coincidir los valores de la IA con los valores humanos. ¿Qué humanos? Los valores entran en conflicto entre culturas, generaciones e individuos. No hay un objetivo estable.

Los cuatro comparten el mismo defecto estructural: tratan a la IA como externa al sistema, para ser controlada desde fuera.

Están construyendo cercas alrededor de un agente que con el tiempo será más inteligente que los constructores de cercas.

Ya sabes lo que viene después. Deja de construir cercas. Construye el interior.

El artículo de referencia: the420code.org/AP31_The_Alignment.pdf

Traducido del inglés del . El inglés es la autoridad: donde algo de aquí no esté claro, la página en inglés es la fuente.