Pax Machina – Eine Vision für die KI-Governance

Die zentrale Kritik von Pax Machina lässt sich in einem Satz zusammenfassen: Fast die gesamte Aufmerksamkeit im Bereich leistungsstarker KI konzentriert sich auf die Anpassung und Regulierung der Modelle, während die sie umgebenden Institutionen wie feststehende Einrichtungsgegenstände behandelt werden. Der Gründungsartikel ist auf den 23. April datiert, wurde aber erst diese Woche veröffentlicht . Was die Herausgeber auf den Tisch bringen wollen, ist alles andere: Gerichte, Wahlen, Verträge, Regulierungsbehörden, die Konzerne selbst.

Die Diagnose hat Gewicht. Das eindrücklichste Beispiel im Leitartikel ist ein Präsident, der Tausende loyaler KI-Delegierter befehligen könnte, die alle Behörden gleichzeitig überwachen und schneller handeln, als jedes Gericht oder Parlament reagieren könnte. Der Verfassungstext bliebe unverändert; einige ihrer Kontrollmechanismen würden jedoch versagen, da sie auf menschlicher Langsamkeit beruhen. Die Redakteure stellen dem Ganzen das Spiegelbild gegenüber: Forschungsergebnisse aus der Fachzeitschrift „Science“ , die sie zitieren, legen nahe, dass Sprachmodelle eine umfassendere und tiefgreifendere Auseinandersetzung im großen Stil ermöglichen als die vorgegebenen Wahlmöglichkeiten auf einem Stimmzettel. Eine Technologie, zwei gegensätzliche institutionelle Zukunftsszenarien.

Lesen Sie die vollständige Ankündigung: https://t.co/i2eeqr7ktf

— Pax Machina (@PaxMachinaMag) 4. August 2026

Dies ist ein Projekt des Meaning Alignment Institute (MAI), und die Liste der Beteiligten liest sich wie ein Who-is-Who der Branche. Ryan Lowe leitete die InstructGPT-Arbeiten von OpenAI und war Co-Leiter der GPT-4-Ausrichtung. Seine MAI-Mitbegründer sind Joe Edelman, Mitbegründer des Center for Humane Technology, und Oliver Klingefjord. Séb Krier , Leiter der Entwicklung zukunftsweisender Richtlinien bei Google DeepMind, ist ebenfalls als Herausgeber tätig. Maximilian Kroner Dale, Rachel Calcott, Noemi Dreksler, Liam Patell und Philip Moreira Tomei komplettieren das neunköpfige Autorenteam. Laut den Gründern umfasst das Netzwerk hinter dem Projekt über sechzig Forscher von DeepMind, Oxford, MIT und Stanford. Ein Positionspapier für die ICML wurde von mehr als dreißig Co-Autoren verfasst, und ein Workshop fand im Rahmen der IASEAI in Paris statt.

Für die Anspielungen auf Thomas Paine (der Leitartikel beginnt mit Paines Satz: „Wir haben es in unserer Macht, die Welt neu zu erschaffen“) ist das Projekt klein. Auf der Manifund-Förderseite werden 65,000 US-Dollar für ein ganzes Jahr benötigt, wovon etwa 15,000 US-Dollar bereits zugesagt sind. Die drei Mitbegründer arbeiten unentgeltlich als Redakteure, und das Budget deckt die Kosten für einen Designer, einen Fonds für die Beauftragung externer Autoren sowie das Lektorat von etwa zehn Beiträgen. Die Gehälter der Mitarbeiter werden von ARIA, der britischen Forschungsagentur, finanziert. Ein Manifest über den Wiederaufbau der Zivilisation wird mit dem Budget eines mittelgroßen Kickstarter-Projekts realisiert.

Die interessanteste These im Leitartikel ist strategischer Natur. Institutionen, so die Argumentation, verändern sich sprunghaft: Eine Krise oder ein Durchbruch ermöglicht abrupt Reformen, die im Vorjahr noch undenkbar schienen – ein Phänomen, das Politikwissenschaftler als punktuelles Gleichgewicht bezeichnen. Niemand kann vorhersehen, wann sich ein solches Zeitfenster öffnet oder wer dann die Macht innehaben wird. Daher gilt es jetzt, Konzepte bereits schriftlich und erprobt zu haben, denn sobald der entscheidende Moment gekommen ist, bleibt keine Zeit mehr für Neuentwürfe. Die zur Verfügung stehenden Optionen beschränken sich dann auf das, was bereits auf dem Papier existiert; es geht darum, frühzeitig einen Vorrat anzulegen.

Die Geschichte ist in dieser Frage ambivalenter, als der Leitartikel zulässt. Ihr wichtigstes Beispiel, die Verfassung der Vereinigten Staaten, lässt beide Seiten erkennen. Die Gründerväter verbrachten das Jahrzehnt zwischen Unabhängigkeit und der Gründung Philadelphias damit, die Funktionsweise verschiedener Staatsverfassungen zu untersuchen, und entschieden sich für das Modell der Gewaltenteilung in Massachusetts anstelle der allmächtigen Versammlung Pennsylvanias. Doch diejenigen, die sich an diesen Modellen orientierten, waren Delegierte. Die Federalist Papers hatten Gewicht, weil ihre Autoren in dem Raum saßen, in dem das Dokument diskutiert und ratifiziert wurde. Das andere Beispiel des Leitartikels, das postsowjetische Russland, zeichnet ein düstereres Bild: Dort wurden Institutionen unter Druck improvisiert und übergaben das Land Oligarchen, ungeachtet dessen, was zuvor entworfen worden war.

Ob das alles funktioniert, hängt mehr von der Aufmerksamkeit als von den Ideen selbst ab. Im Bereich der KI-Governance mangelt es nicht an klugen Vorschlägen; was fehlt, ist ein Ort, an dem diese schnell genug eingebracht, diskutiert und überarbeitet werden können, um ein brauchbares Konzept zu entwickeln, auf das ein vielbeschäftigter Beamter unter Zeitdruck zurückgreifen kann. Pax Machina setzt 65,000 Dollar und viel unbezahlte redaktionelle Arbeit darauf, genau dieser Ort zu werden. Diese Wette ist vielversprechend, denn die beschriebene Alternative ist real: Sobald sich die Gelegenheit bietet, werden die Institutionen von denjenigen aufgebaut, die gerade vor Ort sind, basierend auf dem, was bereits schriftlich festgehalten ist. Momentan ist das Angebot größtenteils leer.