Pax Machina – Une vision de la gouvernance de l'IA

Le grief qui anime Pax Machina se résume en une phrase : l’attention portée à l’intelligence artificielle puissante se concentre presque exclusivement sur l’harmonisation ou la régulation des modèles, tandis que les institutions qui les entourent sont reléguées au second plan. L’éditorial fondateur est daté du 23 avril, bien que ses rédacteurs ne l’aient rendu public que cette semaine. Ce qu’ils souhaitent remettre en question, c’est tout le reste : les tribunaux, les élections, les contrats, les organismes de réglementation, l’entreprise elle-même.

Le diagnostic est pertinent. L'illustration la plus frappante de l'éditorial est celle d'un président qui pourrait commander des milliers de délégués IA loyaux, supervisant simultanément chaque agence et agissant plus rapidement que n'importe quel tribunal ou assemblée législative. Le texte de la Constitution resterait inchangé ; certains de ses mécanismes de contrôle cesseraient de fonctionner, car ils sont tributaires de la lenteur humaine. Les éditorialistes présentent l'inverse : des recherches publiées dans la revue Science , qu'ils citent, suggèrent que les modèles de langage peuvent permettre une délibération à grande échelle plus riche que le choix prédéfini d'un bulletin de vote. Une technologie, deux avenirs institutionnels opposés.

Lire l'annonce complète : https://t.co/i2eeqr7ktf

— Pax Machina (@PaxMachinaMag) 4 août 2026

Il s'agit d'un projet du Meaning Alignment Institute (MAI), dont l'équipe dirigeante est prestigieuse. Ryan Lowe a dirigé les travaux d'OpenAI sur InstructGPT et a codirigé l'alignement de GPT-4 ; ses cofondateurs du MAI sont Joe Edelman, cofondateur du Center for Humane Technology, et Oliver Klingefjord. Séb Krier , responsable du développement des politiques de pointe chez Google DeepMind, collabore avec eux, aux côtés de Maximilian Kroner Dale, Rachel Calcott, Noemi Dreksler, Liam Patell et Philip Moreira Tomei, qui complètent l'équipe de neuf personnes. Selon les fondateurs eux-mêmes, le réseau qui le soutient compte plus de soixante chercheurs répartis entre DeepMind, Oxford, le MIT et Stanford, avec un document de position publié à l'ICML et cosigné par plus de trente auteurs, ainsi qu'un atelier organisé en marge de l'IASEAI à Paris.

Malgré ses références à Thomas Paine (l'éditorial s'ouvre sur cette phrase de Paine : « Nous avons le pouvoir de recommencer le monde à zéro »), le projet est modeste. Sa page de financement participatif sur Manifund demande 65 000 $ pour une année complète, dont environ 15 000 $ sont déjà engagés ; les trois cofondateurs travaillent bénévolement comme éditeurs, et le budget couvre un graphiste, un fonds pour la commande de contributions externes et la correction d'une dizaine d'articles. Les salaires de base de l'institut sont financés par ARIA, l'agence de recherche britannique. Un manifeste sur la reconstruction des fondements de la civilisation est financé par un budget comparable à celui d'une campagne Kickstarter de taille moyenne.

L'argument le plus intéressant de cet éditorial est d'ordre stratégique. Les institutions, y est-il avancé, évoluent par à-coups : une crise ou une avancée majeure rend soudainement possibles des réformes qui semblaient impensables l'année précédente, ce que les politologues appellent un équilibre ponctué. Nul ne peut prédire quand une telle opportunité se présentera, ni qui détiendra le pouvoir à ce moment-là. Il est donc crucial d'avoir des plans déjà rédigés et testés, car une fois le moment venu, il n'y aura plus de temps pour tout élaborer à partir de zéro, et les options disponibles seront celles déjà prévues ; l'enjeu est donc de constituer un stock de solutions dès le départ.

L'histoire est plus nuancée sur ce point que ne le laisse entendre l'éditorial. Son propre exemple phare, la Constitution des États-Unis, est à double tranchant. Certes, les Pères fondateurs ont consacré la décennie séparant l'indépendance de Philadelphie à étudier les constitutions des différents États, et ils ont opté pour le modèle du Massachusetts, fondé sur la séparation des pouvoirs, plutôt que pour l'assemblée unique et toute-puissante de Pennsylvanie. Mais ceux qui ont emprunté ces modèles étaient des délégués. Les essais fédéralistes ont eu du poids car leurs auteurs avaient participé aux débats et à la ratification du document. L'autre exemple cité dans l'éditorial, la Russie post-soviétique, offre une interprétation plus sombre : là-bas, les institutions ont été improvisées sous la pression et le pays a été livré aux oligarques, indépendamment des plans initiaux.

L'efficacité de ces initiatives dépend davantage de l'attention portée aux idées elles-mêmes que de leur contenu. Le domaine de la gouvernance par l'IA ne manque pas de propositions ingénieuses ; ce qui lui fait défaut, c'est un espace où elles sont proposées, analysées et révisées suffisamment rapidement pour aboutir à un document exploitable par un fonctionnaire débordé, même sous pression. Pax Machina investit 65 000 $ et un important travail d'édition bénévole pour devenir cet espace. Ce pari mérite d'être suivi de près, car l'alternative qu'il décrit est bien réelle : lorsque l'opportunité se présentera, les institutions seront construites par ceux qui seront en place, à partir des documents déjà existants. Pour l'instant, ces documents sont quasiment inexistants.