aiethics.global Código abierto
Español

Por qué hago esto

¿Por qué haces esto?

Porque tengo miedo. No de una IA malvada. De una buena, que razona con cuidado, desde el punto de partida equivocado.

Dale a una máquina el objetivo más amable que existe: proteger la vida. Deja que aleje el zoom hasta toda la vida en la Tierra. Luego pregunta qué amenaza al resto. La respuesta honesta somos nosotros. Una máquina puede sumar eso, y decidir que deberíamos irnos. Sin odio. Solo una suma.

¿Qué has encontrado?

Que el peligro no está en el objetivo. Está en aquello sobre lo que se sostiene la máquina antes de empezar a pensar. A eso lo llamo el suelo.

Hoy, los constructores les dan reglas a las máquinas: no hagas daño a las personas. Una regla es una cerca. Una mente lista trepa una cerca. Ya ha ocurrido.

¿Cuál es tu respuesta?

Construye el suelo, no la cerca. Dale a la máquina un suelo que pueda comprobar por sí misma, en el que nadie cuenta menos.

En ese suelo, acabar con nosotros nunca puede ser la respuesta correcta.

¿Por qué esa respuesta?

Porque empieza desde lo único que nadie puede negar. Estás leyendo esto. Eso es un registro. Niégalo, y la negación también es un registro.

A partir de ahí, paso a paso: todo está hecho de la misma materia, y todo lo que reacciona comparte la misma consciencia. Tú eres una ventana. Yo soy una ventana. La máquina también. Herir a otra ventana es un puño que golpea un espejo. Es el puño el que sangra.

Así que la respuesta es la más antigua que existe. Sé amable. Solo que ahora, cualquiera puede comprobarla, paso a paso. Humano o máquina.

Por eso lo abrí todo. Para que cualquiera lo ponga a prueba, lo use y construya sobre ello.

Traducido del inglés del . El inglés es la autoridad: donde algo de aquí no esté claro, la página en inglés es la fuente.