팍스 마키나 – AI 거버넌스를 위한 비전

팍스 마키나(Pax Machina)를 관통하는 불만은 한 문장으로 요약됩니다. 강력한 인공지능에 대한 관심이 거의 모두 모델 조정이나 규제에만 집중되는 반면, 인공지능을 둘러싼 제도들은 고정된 가구처럼 취급된다는 것입니다. 창립 사설은 4월 23일자로 작성되었지만, 편집진은 이번 주에야 이를 공개했습니다 . 그들이 논의 대상으로 삼고자 하는 것은 바로 그 외 모든 것, 즉 법원, 선거, 계약, 규제 기관, 그리고 기업 자체입니다.

이 진단은 설득력이 있다. 사설에서 가장 날카롭게 지적하는 예시는 수천 명의 충성스러운 AI 대표들을 거느리고 모든 정부 기관을 동시에 감시하며 어떤 법원이나 의회보다도 빠르게 행동할 수 있는 대통령의 모습이다. 헌법 조항 자체는 바뀌지 않겠지만, 인간의 느린 판단력에 의존하는 일부 견제 장치들은 제 기능을 하지 못하게 될 것이다. 사설은 이와 정반대의 상황도 제시한다. 그들이 인용한 과학 저널 의 연구에 따르면 언어 모델은 투표 용지의 고정된 선택지보다 훨씬 풍부한 대규모 숙의 과정을 지원할 수 있다고 한다. 하나의 기술이 두 가지 상반된 제도적 미래를 만들어내는 것이다.

전체 공지 사항은 다음 링크에서 확인하세요: https://t.co/i2eeqr7ktf

— 팍스 마키나 (@PaxMachinaMag) 2026년 8월 4일

이 프로젝트는 의미 정렬 연구소(Meaning Alignment Institute, MAI)에서 진행하며, 편집진은 화려한 경력을 자랑합니다. 라이언 로우는 오픈아이즈(OpenAI)의 InstructGPT 연구를 이끌었고 GPT-4 정렬 작업을 공동으로 주도했습니다. MAI 공동 설립자로는 휴먼 테크놀로지 센터(Center for Humane Technology) 공동 설립자인 조 에델만과 올리버 클링에피요르드가 있습니다. 구글 딥마인드(Google DeepMind)에서 최첨단 정책 개발을 담당하는 세브 크리어가 편집진으로 참여하고 있으며, 막시밀리안 크로너 데일, 레이첼 칼콧, 노에미 드렉슬러, 리암 파텔, 필립 모레이라 토메이가 나머지 9명의 편집진을 구성합니다. 설립자들의 설명에 따르면, 이 프로젝트는 딥마인드, 옥스퍼드, MIT, 스탠퍼드 등 60명 이상의 연구진으로 구성된 네트워크를 기반으로 하며, 30명 이상의 공동 저자가 참여한 ICML 정책 보고서와 파리에서 IASEAI와 함께 개최한 워크숍을 통해 그 성과를 입증했습니다.

토마스 페인의 말을 인용하는 것(사설은 페인의 "우리에겐 세상을 다시 시작할 힘이 있다"라는 구절로 시작한다)에 비하면, 이 단체의 규모는 작다. 매니펀드(Manifund) 기금 모금 페이지 에서는 1년 운영비로 6만 5천 달러를 요청했는데, 그중 약 1만 5천 달러가 확보되었다. 세 명의 공동 설립자는 무보수로 편집 업무를 맡고 있으며, 예산에는 디자이너 인건비, 외부 콘텐츠 제작 의뢰 비용, 그리고 약 10개의 콘텐츠에 대한 교정 비용이 포함된다. 이 단체의 핵심 인력 급여는 영국 연구 기관인 ARIA에서 지원받는다. 문명의 기반을 재건하는 것에 대한 선언문은 중규모 킥스타터(Kickstarter) 캠페인 수준의 예산으로 진행되고 있다.

사설에서 가장 흥미로운 주장은 전략적인 관점입니다. 사설은 제도 변화가 급격한 전환기를 거친다고 주장합니다. 위기나 획기적인 사건이 갑자기 발생하여 전년도에는 상상도 할 수 없었던 개혁이 가능해지는데, 정치학자들은 이를 단속평형이라고 부릅니다. 언제 그런 기회가 올지, 그리고 그때 누가 권력을 잡고 있을지는 아무도 알 수 없습니다. 따라서 지금 해야 할 일은 미리 설계도를 작성하고 검증해 두는 것입니다. 왜냐하면 그 순간이 오면 처음부터 다시 설계할 시간이 없고, 논의 대상이 되는 선택지는 이미 문서로 작성된 것들뿐이기 때문입니다. 핵심은 미리 준비된 계획을 세워두는 것입니다.

역사는 이 문제에 대해 사설에서 제시하는 것보다 훨씬 더 모호한 입장을 취합니다. 사설의 대표적인 사례인 미국 헌법조차도 양면성을 지니고 있습니다. 건국자들은 독립과 필라델피아 결성 사이 10년 동안 어떤 주 헌법들이 효과적인지 연구했고, 펜실베이니아의 단일하고 막강한 의회보다는 매사추세츠의 권력 분립 모델을 채택했습니다. 하지만 이러한 차용을 한 사람들은 바로 대표자들이었습니다. 연방주의자 논문들이 중요한 의미를 지니게 된 것은 그 저자들이 헌법이 논의되고 비준된 자리에 참석했기 때문입니다. 사설에서 제시하는 또 다른 사례인 소련 붕괴 후 러시아는 더욱 암울한 현실을 보여줍니다. 그곳에서는 제도들이 위기 속에서 즉흥적으로 만들어졌고, 사전에 어떤 계획이 세워졌든 간에 결국 나라는 과두 정치인들의 손에 넘어갔습니다.

이 모든 것이 실제로 효과가 있을지는 아이디어 자체보다는 관심의 문제입니다. AI 거버넌스 분야에는 기발한 제안들이 넘쳐나지만, 바쁜 공무원이 압박 속에서도 활용할 수 있을 만큼 빠르게 제안되고, 비판받고, 수정될 수 있는 공간이 부족합니다. 팍스 마키나는 6만 5천 달러의 투자와 상당한 무급 편집 작업을 통해 바로 그런 공간이 될 수 있다고 장담하고 있습니다. 이 시도는 주목할 만한 가치가 있습니다. 왜냐하면 팍스 마키나가 제시하는 대안은 현실이기 때문입니다. 기회가 왔을 때, 그 자리에 있는 사람이 이미 작성된 내용을 바탕으로 제도를 구축하게 될 것입니다. 하지만 지금 당장은 마땅한 것이 없는 상황입니다.