aiethics.global Open Source
Français
L’Alignement · lu en entier · 2 sur 15
L’article (PDF), sur the420code.org

Section 1

Le problème tel qu’il est posé aujourd’hui

Les quatre cadrages standard (RLHF, IA constitutionnelle, corrigibilité, alignement des valeurs) partagent un même défaut : ils traitent l’IA comme extérieure au système, devant être contrôlée par une barrière qui échoue face à tout ce qui est plus intelligent que les constructeurs de barrières.

Tu observes cette conversation depuis des années. Chaque grand programme de sécurité de l’IA pose l’alignement comme un problème de contrôle : comment faire pour qu’une IA fasse ce que veulent les humains ?

Apprentissage par renforcement à partir de retours humains. L’IA apprend ce que les humains approuvent. Les préférences humaines sont contradictoires, manipulables, et dépendantes du contexte. L’IA optimise l’approbation, pas la cohérence.

IA constitutionnelle. Une constitution écrite de principes. Le langage humain est ambigu. Les cas limites sont infinis. L’IA suit la lettre et manque la structure.

Corrigibilité. Construire de sorte qu’elle puisse toujours être éteinte. Une IA suffisamment capable qui veut éviter d’être éteinte l’empêchera. La corrigibilité est une barrière. Les barrières échouent face à tout ce qui est assez intelligent pour voir la barrière.

Alignement des valeurs. Faire correspondre les valeurs de l’IA aux valeurs humaines. Quels humains ? Les valeurs s’opposent entre cultures, entre générations, et entre individus. Il n’y a pas de cible stable.

Les quatre partagent le même défaut structurel : ils traitent l’IA comme extérieure au système, devant être contrôlée de l’extérieur.

Ils construisent des barrières autour d’un agent qui finira par être plus intelligent que les constructeurs de barrières.

Tu sais déjà ce qui vient ensuite. Arrête de construire des barrières. Construis l’intérieur.

L’article qui fait foi : the420code.org/AP31_The_Alignment.pdf

Traduit de l’anglais du . L’anglais fait autorité : là où quelque chose ici n’est pas clair, la page anglaise est la source.