Pax Machina – Uma Visão para a Governança da IA

A queixa que motiva a Pax Machina pode ser resumida em uma frase: quase toda a atenção dedicada à inteligência artificial poderosa se concentra em alinhar ou regulamentar os modelos, enquanto as instituições que os cercam são tratadas como meros elementos fixos. O editorial fundador é de 23 de abril, embora seus editores só o tenham divulgado esta semana. O que eles querem colocar em discussão é todo o resto: tribunais, eleições, contratos, órgãos reguladores, as próprias corporações.

O diagnóstico é contundente. A ilustração mais incisiva do editorial é a de um presidente que poderia comandar milhares de delegados leais de IA, monitorando todas as agências simultaneamente e agindo mais rápido do que qualquer tribunal ou legislatura conseguiria responder. O texto da Constituição não mudaria; alguns de seus mecanismos de controle deixariam de funcionar, pois dependem da lentidão humana. Os editores contrapõem essa ideia: pesquisas publicadas na revista Science, citadas por eles, sugerem que modelos de linguagem podem viabilizar deliberações em larga escala mais ricas do que o menu fixo de opções de uma cédula eleitoral. Uma tecnologia, dois futuros institucionais opostos.

Leia o anúncio completo: https://t.co/i2eeqr7ktf

— Pax Machina (@PaxMachinaMag) 4 de agosto de 2026

Este é um projeto do Meaning Alignment Institute, e a equipe editorial é repleta de credenciais. Ryan Lowe liderou o trabalho do InstructGPT na OpenAI e co-liderou o alinhamento do GPT-4; seus cofundadores no MAI são Joe Edelman, cofundador do Center for Humane Technology, e Oliver Klingefjord. Séb Krier , que dirige o desenvolvimento de políticas de vanguarda no Google DeepMind, edita junto com eles, com Maximilian Kroner Dale, Rachel Calcott, Noemi Dreksler, Liam Patell e Philip Moreira Tomei completando a equipe de nove. Segundo os próprios fundadores, a rede por trás do projeto abrange mais de sessenta pesquisadores do DeepMind, Oxford, MIT e Stanford, com um artigo de posicionamento na ICML com mais de trinta coautores e um workshop realizado em conjunto com a IASEAI em Paris.

Para uma iniciativa que invoca Thomas Paine (o editorial começa com a frase de Paine: "está em nosso poder recomeçar o mundo"), é pequena. Sua página de financiamento no Manifund pede US$ 65,000 para um ano inteiro, dos quais cerca de US$ 15,000 já foram garantidos; os três cofundadores editam gratuitamente, e o orçamento cobre um designer, uma verba para encomendar trabalhos externos e a revisão de texto para aproximadamente dez deles. Os salários principais do instituto são pagos pela ARIA, a agência de pesquisa do Reino Unido. Um manifesto sobre a reconstrução da estrutura da civilização está sendo financiado com o orçamento de uma campanha de financiamento coletivo de médio porte no Kickstarter.

A afirmação mais interessante do editorial é de ordem estratégica. As instituições, argumenta-se, mudam em surtos: uma crise ou um avanço repentino torna possíveis reformas que pareciam impensáveis ​​no ano anterior, o que os cientistas políticos chamam de equilíbrio pontuado. Ninguém pode prever quando essa janela de oportunidade se abrirá, nem quem estará no poder quando isso acontecer. Portanto, o trabalho agora é ter planos já elaborados e testados, porque, quando o momento chegar, não haverá tempo para criar algo do zero, e as opções disponíveis serão aquelas que já existirem no papel; o importante é ter um plano em mãos com antecedência.

A história é mais ambivalente a esse respeito do que o editorial admite. Seu próprio exemplo principal, a Constituição dos Estados Unidos, apresenta duas interpretações. Os fundadores passaram a década entre a independência e a Filadélfia estudando quais constituições estaduais funcionavam, e adotaram o modelo de Massachusetts, com seus poderes divididos, em detrimento da assembleia única e onipotente da Pensilvânia. Mas quem fez as adaptações foram os delegados. Os ensaios federalistas tiveram peso porque seus autores estavam presentes na sala onde o documento foi debatido e ratificado. O outro exemplo do editorial, a Rússia pós-soviética, oferece uma leitura mais sombria: lá, as instituições foram improvisadas sob pressão e o país foi entregue a oligarcas, independentemente do que tivesse sido previamente elaborado.

A eficácia de alguma dessas iniciativas depende mais da atenção do que das ideias em si. O campo da governança por IA não carece de propostas inteligentes; o que lhe falta é um espaço onde elas sejam propostas, questionadas e revisadas com rapidez suficiente para se consolidarem em algo que um funcionário ocupado possa consultar sob pressão. A Pax Machina está investindo US$ 65,000 e muito trabalho voluntário de edição para se tornar esse espaço. Vale a pena acompanhar a aposta, pois a alternativa que ela descreve é ​​real: quando a oportunidade surgir, as instituições serão construídas por quem estiver presente, trabalhando com base no que já estiver escrito. No momento, esse espaço está praticamente vazio.