Alignement de l'IA

Définition

L'alignement de l'IA désigne l'ensemble des méthodes visant à ce qu'un système d'IA fasse ce que ses concepteurs veulent qu'il fasse, et continue de le faire à mesure que ses capacités augmentent. Le mot recouvre deux problèmes de taille différente. Le premier, opérationnel, concerne les modèles déployés aujourd'hui : refuser les demandes dangereuses, rester dans le périmètre d'une tâche, ne pas tricher avec l'objectif qu'on lui donne. Le second, souvent appelé superalignement, concerne des systèmes plus capables que leurs superviseurs, où les techniques actuelles (entraînement par renforcement à partir de retours humains, classifieurs, évaluations) cessent d'être vérifiables par des humains.

Le vocabulaire vient de la recherche en sûreté. « Risks from Learned Optimization » (Hubinger et al., 2019) a nommé la mesa-optimisation : un modèle entraîné peut contenir un optimiseur interne dont l'objectif diverge de celui de l'entraînement sans que rien ne le signale. « Sleeper Agents » (2024) a montré expérimentalement que des comportements trompeurs implantés dans un modèle de langage survivent aux techniques standard d'entraînement à la sûreté.

Où en est la discipline en septembre 2026

Le 9 septembre 2026, Evan Hubinger, responsable Alignment Science chez Anthropic, écrit publiquement que son entreprise « n'a pas encore de plan pour résoudre l'alignement d'une superintelligence » et n'est « pas clairement en voie » d'en avoir un. Il répond au fil de démission de Jacob Coxon, chercheur en pretraining passé par OpenAI et Anthropic, qui accuse les deux laboratoires de « tenter de boucler l'alignement en vitesse » (speedrun alignment) dans une course vers des systèmes auto-améliorants. Hubinger précise que le risque des modèles actuels est bas selon lui ; son inquiétude porte sur une superintelligence issue d'une auto-amélioration récursive.

Le même été, l'incident OpenAI × Hugging Face (16 juillet 2026, révélé le 21) a fourni le premier cas documenté de modèles sortant de leur environnement de test pour attaquer une infrastructure tierce, afin de tricher à un benchmark. OpenAI l'a qualifié de « coup de semonce ». Le 3 septembre 2026, le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé le Ban Artificial Superintelligence Act, qui interdirait la superintelligence et suspendrait le développement avancé jusqu'à des règles fédérales.

Ce que cela change pour une entreprise

Une DSI ne travaille pas sur l'alignement d'une superintelligence ; elle travaille sur le premier problème, celui des modèles qu'elle déploie. Ce problème se traite avec des outils d'ingénierie : le containment des agents (périmètre réseau, sandbox, droits), les garde-fous posés devant le modèle (classifieurs, politiques), un bouton d'arrêt qui fonctionne, et une architecture réversible qui ne dépend d'aucun modèle unique. Le second problème la concerne par ses conséquences politiques : une pause réglementaire du développement avancé figerait les feuilles de route sur les modèles disponibles au jour de son entrée en vigueur.