Pax Machina: una visión para la gobernanza de la IA
Una nueva publicación del Meaning Alignment Institute argumenta que los modelos son objeto de todo el escrutinio, mientras que los tribunales, las elecciones y los organismos reguladores quedan impunes. Sus fundadores exigen que el rediseño comience de inmediato, con un presupuesto de 65 000 dólares.
La queja que inspira Pax Machina se resume en una frase: casi toda la atención que se presta a la IA avanzada se centra en alinear o regular los modelos, mientras que las instituciones que los rodean se tratan como elementos fijos. El editorial fundacional data del 23 de abril, aunque sus editores lo publicaron recién esta semana. Lo que pretenden abordar es todo lo demás: tribunales, elecciones, contratos, organismos reguladores, la propia corporación.
El diagnóstico es contundente. El ejemplo más claro del editorial es el de un presidente que podrÃa comandar miles de delegados de IA leales, supervisando todas las agencias simultáneamente y actuando con mayor rapidez que cualquier tribunal o legislatura. El texto de la Constitución no cambiarÃa; algunos de sus mecanismos de control dejarÃan de funcionar, debido a la lentitud humana. Los editores contraponen esta idea: una investigación publicada en Science que citan sugiere que los modelos de lenguaje pueden sustentar una deliberación a gran escala más enriquecedora que el menú fijo de opciones de una papeleta electoral. Una tecnologÃa, dos futuros institucionales opuestos.
Lee el anuncio completo: https://t.co/i2eeqr7ktf
— Pax Machina (@PaxMachinaMag) 4 de agosto de 2026
Este es un proyecto del Meaning Alignment Institute, y su equipo editorial está repleto de credenciales. Ryan Lowe lideró el trabajo de InstructGPT de OpenAI y codirigió la alineación de GPT-4; sus cofundadores de MAI son Joe Edelman, cofundador del Center for Humane Technology, y Oliver Klingefjord. Séb Krier , quien dirige el desarrollo de polÃticas de vanguardia en Google DeepMind, participa en la edición junto a ellos, con Maximilian Kroner Dale, Rachel Calcott, Noemi Dreksler, Liam Patell y Philip Moreira Tomei completando el equipo de nueve personas. Según los propios fundadores, la red que lo respalda cuenta con más de sesenta investigadores de DeepMind, Oxford, MIT y Stanford, con un documento de posición del ICML que cuenta con más de treinta coautores y un taller organizado junto con IASEAI en ParÃs.
A pesar de sus referencias a Thomas Paine (el editorial comienza con la frase de Paine: «Está en nuestras manos empezar el mundo de nuevo»), la iniciativa es modesta. Su página de solicitud de subvención en Manifund pide 65 000 dólares para un año completo, de los cuales ya se han comprometido unos 15 000; los tres cofundadores editan sin remuneración, y el presupuesto cubre a un diseñador, un fondo para encargar artÃculos externos y la corrección de estilo de aproximadamente diez de ellos. Los salarios principales del instituto provienen de ARIA, la agencia de investigación del Reino Unido. Un manifiesto sobre la reconstrucción de los cimientos de la civilización se financia con el presupuesto de una campaña de Kickstarter de tamaño medio.
La afirmación más interesante del editorial es de Ãndole estratégica. Sostiene que las instituciones cambian a ráfagas: una crisis o un avance posibilita de repente reformas que parecÃan impensables el año anterior, lo que los politólogos denominan un equilibrio puntuado. Nadie puede saber cuándo se abrirá esa oportunidad ni quién ostentará el poder cuando lo haga. Por lo tanto, la tarea ahora consiste en tener diseños ya redactados y probados, porque una vez que llegue el momento no habrá tiempo para empezar de cero, y las opciones disponibles serán las que ya existan sobre el papel; la clave es prepararse con antelación.
La historia es más ambivalente al respecto de lo que el editorial reconoce. Su ejemplo principal, la Constitución de los Estados Unidos, presenta dos caras. Los fundadores dedicaron la década entre la independencia y Filadelfia a estudiar qué constituciones estatales funcionaban, y optaron por el modelo de división de poderes de Massachusetts en lugar de la asamblea única y todopoderosa de Pensilvania. Pero quienes tomaron prestados los principios eran delegados. Los ensayos federalistas tuvieron peso porque sus autores estuvieron presentes en la sala donde se debatió y ratificó el documento. El otro ejemplo del editorial, la Rusia postsoviética, ofrece una interpretación más sombrÃa: allÃ, las instituciones se improvisaron bajo presión y entregaron el paÃs a los oligarcas, independientemente de lo que se hubiera redactado previamente.
Que algo de esto funcione depende más de la atención que de las ideas. El campo de la gobernanza de la IA no carece de propuestas ingeniosas; lo que le falta es un espacio donde se propongan, se critiquen y se revisen con la suficiente rapidez como para que un funcionario ocupado pueda recurrir a ellas bajo presión. Pax Machina apuesta 65,000 dólares y mucho trabajo de edición no remunerado a que puede convertirse en ese espacio. Vale la pena seguir de cerca esta apuesta, porque la alternativa que describe es real: cuando se abre la oportunidad, las instituciones las construye quien esté allÃ, trabajando a partir de lo que ya esté escrito. Ahora mismo, la situación está prácticamente vacÃa.
Brave New Coin llega a más de un millón de entusiastas de las criptomonedas al mes a través de nuestro sitio web, podcast, boletines informativos y YouTube. Dale visibilidad a tu marca ante los principales responsables de la toma de decisiones y los primeros usuarios en 2026. ¡Quedan plazas limitadas! ¡Descubre más hoy!
