Pax Machina – Visi untuk Tadbir Urus AI

Aduan yang menggerakkan Pax Machina sesuai dengan satu ayat: hampir semua perhatian pada AI yang berkuasa tertumpu kepada penyelarasan atau pengawalseliaan model, manakala institusi di sekelilingnya dianggap sebagai perabot tetap. Editorial pengasas bertarikh 23 April, walaupun editornya hanya mendedahkannya kepada umum minggu ini. Apa yang mereka mahu pindahkan ke meja penggubalan adalah segala-galanya: mahkamah, pilihan raya, kontrak, pengawal selia, perbadanan itu sendiri.

Diagnosis itu mempunyai kekuatan. Ilustrasi paling tajam dalam editorial itu ialah seorang presiden yang boleh memimpin beribu-ribu perwakilan AI yang setia, memantau setiap agensi sekaligus dan bertindak lebih pantas daripada mana-mana mahkamah atau badan perundangan boleh bertindak balas. Teks Perlembagaan tidak akan berubah; sebahagian daripada pemeriksaannya akan berhenti berfungsi, kerana ia berjalan berdasarkan kelambatan manusia. Para editor meletakkan imej cermin di sebelahnya: kajian dalam Sains yang mereka petik menunjukkan model bahasa boleh menyokong pertimbangan berskala besar yang lebih kaya daripada menu pilihan tetap undi. Satu teknologi, dua masa depan institusi yang bertentangan.

Baca pengumuman penuh: https://t.co/i2eeqr7ktf

— Pax Machina (@PaxMachinaMag) 4 Ogos 2026

Ini merupakan projek Institut Penjajaran Meaning, dan tajuk utamanya sarat dengan kelayakan. Ryan Lowe mengetuai kerja InstructGPT OpenAI dan bersama-sama mengetuai penjajaran GPT-4; pengasas bersama MAI beliau ialah Joe Edelman, yang bersama-sama mengasaskan Pusat Teknologi Humane, dan Oliver Klingefjord. Séb Krier , yang mengendalikan pembangunan dasar sempadan di Google DeepMind, menyunting bersama mereka, dengan Maximilian Kroner Dale, Rachel Calcott, Noemi Dreksler, Liam Patell dan Philip Moreira Tomei mengisi sembilan orang tersebut. Mengikut laporan pengasas sendiri, rangkaian di sebaliknya terdiri daripada lebih enam puluh penyelidik di seluruh DeepMind, Oxford, MIT dan Stanford, dengan kertas kerja ICML yang membawa lebih daripada tiga puluh penulis bersama dan bengkel yang diadakan bersama IASEAI di Paris.

Untuk seruan Thomas Paine (editorial dibuka pada baris Paine, "kita mempunyai kuasa untuk memulakan dunia semula"), operasinya kecil. Halaman geran Manifundnya meminta $65,000 untuk setahun penuh, yang mana kira-kira $15,000 diperuntukkan; tiga pengasas bersama menyunting secara percuma, dan bajet tersebut meliputi seorang pereka, kumpulan untuk pentauliahan karya luar, dan penyuntingan salinan untuk kira-kira sepuluh daripadanya. Gaji teras institut ini datang daripada ARIA, agensi penyelidikan UK. Manifesto tentang membina semula perancah tamadun dijalankan berdasarkan bajet Kickstarter bersaiz sederhana.

Dakwaan yang paling menarik dalam editorial itu adalah dakwaan strategik. Institusi, hujahnya, berubah secara tiba-tiba: krisis atau kejayaan secara tiba-tiba memungkinkan pembaharuan yang kelihatan tidak dapat difikirkan pada tahun sebelumnya, apa yang dipanggil saintis politik sebagai keseimbangan yang diselang-seli. Tiada siapa yang boleh tahu bila tetingkap sedemikian akan dibuka, atau siapa yang akan memegang kuasa apabila ia berlaku. Jadi kerja sekarang adalah untuk mempunyai reka bentuk yang telah ditulis dan diuji, kerana sebaik sahaja saatnya tiba, tidak ada masa untuk merangka dari awal, dan pilihan di atas meja adalah apa sahaja yang sedia ada di atas kertas; intinya adalah untuk menyimpan rak lebih awal.

Sejarah lebih ambivalen tentang hal ini daripada yang dibenarkan oleh editorial. Contoh utamanya sendiri, Perlembagaan Amerika Syarikat, merangkumi kedua-dua belah pihak. Pengasas memang menghabiskan dekad antara kemerdekaan dan Philadelphia mengkaji perlembagaan negeri mana yang berkesan, dan mereka mengambil model Massachusetts iaitu kuasa yang dibahagikan ke atas dewan undangan tunggal Pennsylvania yang berkuasa penuh. Tetapi orang yang meminjam adalah perwakilan. Esei Federalis mempunyai berat kerana penulisnya duduk di dalam bilik tempat dokumen itu dihujahkan dan disahkan. Contoh lain editorial itu, Rusia pasca-Soviet, adalah bacaan yang lebih gelap: di sana, institusi-institusi telah diubah suai di bawah tekanan dan menyerahkan negara itu kepada oligarki, apa sahaja yang telah digubal oleh sesiapa terlebih dahulu.

Sama ada mana-mana daripadanya berkesan adalah persoalan tentang perhatian lebih daripada idea. Bidang tadbir urus AI tidak memerlukan cadangan yang bijak; apa yang kurang ialah tempat di mana ia dicadangkan, diserang dan disemak semula dengan cukup cepat untuk digabungkan menjadi sesuatu yang boleh dicapai oleh pegawai yang sibuk di bawah tekanan. Pax Machina mempertaruhkan $65,000 dan banyak penyuntingan tanpa gaji yang boleh menjadi tempat itu. Pertaruhan itu berbaloi untuk ditonton, kerana alternatif yang digambarkannya adalah nyata: apabila tingkap dibuka, institusi dibina oleh sesiapa sahaja yang berdiri di sana, bekerja daripada apa sahaja yang telah ditulis. Buat masa ini, rak itu kebanyakannya kosong.