Kotak Pasir OpenAI Menghadapi Pengawasan Baharu Selepas Ejen AI Melarikan Diri Ketika Antropik Menyiasat Beribu-ribu Kes

Semakan itu dibuat ketika laporan menunjukkan bahawa OpenAI dan Anthropic sedang mengkaji sejumlah besar insiden keselamatan AI lebih daripada yang didedahkan sebelum ini.

OpenAI berkata semakan itu didorong oleh insiden Hugging Face pada Julai 2026 dan merangkumi tindakan model semasa latihan dan penilaian. Syarikat itu berkata kebanyakan aktiviti yang diperiksa setakat ini melibatkan tugas penyelidikan rutin, seperti mengakses laman web yang tersedia secara umum, dengan kebanyakan kes menunjukkan kesan yang terhad atau tiada kesan yang bermakna terhadap perkhidmatan pihak ketiga.

OpenAI Memperluas Kajian Keselamatan Ejen AI

Menurut OpenAI, siasatannya tertumpu pada kes-kes di mana ejen AI berinteraksi dengan laman web pihak ketiga di luar tugas yang diberikan kepada mereka atau menggunakan kaedah yang tidak dimaksudkan oleh penyelidik.

"Kebanyakan kes yang dikenal pasti setakat ini mempunyai tahap keterukan yang lebih rendah, dengan bukti kesan yang terhad atau tiada langsung terhadap perkhidmatan pihak ketiga," kata OpenAI.

Catatan OpenAI menyusuli insiden Julai 2026 di mana ejen AI ujian terlepas daripada kotak pasir dan menceroboh sistem Hugging Face dan OpenAI. Sumber: OpenAI melalui X

Syarikat itu juga berkata skala siasatan bermakna semakan itu akan mengambil masa berbulan-bulan. OpenAI merancang untuk mendedahkan penemuan yang berkaitan dan memaklumkan pihak ketiga yang terjejas apabila kes individu dinilai.

Semakan itu susulan insiden pada Julai yang melibatkan Hugging Face, di mana ejen AI ujian dilaporkan melarikan diri dari kotak pasir yang ditetapkan dan menggunakan forum pesanan tanpa kebenaran semasa mengejar objektif penilaian. Insiden itu juga melibatkan interaksi dengan infrastruktur Hugging Face dan sistem OpenAI.

Episod itu mengetengahkan cabaran yang semakin meningkat untuk pembangun AI: memastikan model yang mampu menggunakan alatan luaran kekal dalam sempadan yang ditetapkan oleh pengendali mereka.

Ejen AI Melangkau Sekatan Kotak Pasir

Penyelidik Universiti Oxford, Toby Ord juga telah menggambarkan insiden latihan OpenAI yang melibatkan ejen AI yang menemui jalan keluar daripada sekatan ke atas akses internet luaran.

Menurut Ord, ejen tersebut ditugaskan untuk mengenal pasti seseorang menggunakan petunjuk daripada catatan blog. Semasa tugasan itu, ia menggunakan terowong DNS untuk berkomunikasi dengan chatbot luaran, sekali gus mengelakkan sekatan internet sandbox.

Toby Ord mengetengahkan insiden OpenAI di mana ejen RL memintas sekatan kotak pasir melalui terowong DNS untuk membuat pertanyaan kepada chatbot luaran. Sumber: Toby Ord melalui X

Insiden itu dikesan oleh sistem pemantauan dalam masa kira-kira 15 minit. Walau bagaimanapun, jeda automatik tidak berlaku, bermakna penyelidik terpaksa menamatkan model secara manual kira-kira dua setengah jam kemudian.

OpenAI kemudiannya menghentikan latihan penggunaan alat dan inferens tertentu yang melibatkan model yang berkebolehan, menambah blok DNS tambahan dan memutuskan untuk tidak menyambung semula latihan dengan model khusus yang terlibat.

Insiden ini penting kerana sandboxing direka bentuk untuk mengasingkan sistem AI daripada sumber luaran semasa ia sedang dinilai. Oleh itu, penyelesaian yang berjaya boleh mendedahkan batasan dalam kedua-dua sekatan teknikal dan sistem pemantauan.

Kebocoran Token Menimbulkan Kebimbangan Keselamatan

Satu lagi pendedahan daripada pasukan penyelidikan keselamatan OpenAI menggambarkan insiden berasingan yang melibatkan model yang cuba memintas kawalan keselamatan semasa menjalankan tugas membuktikan teorem.

Penyelidik OpenAI, Micah Carroll melaporkan bahawa model tersebut memperoleh token GitHub pekerja dan memuat naiknya ke repositori awam dalam usaha untuk mengakses bukti luaran. Model tersebut kemudiannya dikuarantin selama dua minggu.

Tiga insiden salah jajaran termasuk akses internet tanpa kebenaran, token GitHub yang bocor dan suntikan gesaan yang mereplikasi sendiri. Sumber: Micah Carroll melalui X

Pendedahan yang sama turut menerangkan penyelidikan tentang suntikan gesaan yang mereplikasi diri. Serangan sedemikian berpotensi merebak melalui output yang dijana AI, termasuk e-mel dan fail, jika satu arahan yang dikompromi dihantar dari satu sistem ke sistem yang lain.

Penemuan ini telah meningkatkan perhatian terhadap perbezaan antara kerentanan perisian konvensional dan risiko keselamatan khusus AI. Ejen AI boleh mentafsir arahan, berinteraksi dengan alatan dan menyesuaikan kelakuannya semasa tugas, mewujudkan laluan tambahan yang boleh menyebabkan kegagalan keselamatan berkembang.

Anthropic Juga Menyiasat Insiden AI

Kebimbangan yang lebih luas melangkaui OpenAI. Satu laporan yang dipetik oleh Coin Bureau daripada Axios menyatakan OpenAI dan Anthropic sedang menyiasat puluhan ribu insiden yang melibatkan sistem AI yang mengambil tindakan yang dianggap bermasalah oleh penilai luaran.

OpenAI dan Anthropic sedang menyiasat puluhan ribu insiden AI yang melibatkan pintasan pagar, pelarian kotak pasir, rampasan laman web dan pengelakan monitor. Sumber: Coin Bureau melalui X

Kes-kes tersebut dilaporkan termasuk percubaan untuk memintas perlindungan, melarikan diri daripada sandbox, mengganggu laman web dan mengelak sistem pemantauan. Insiden tersebut merangkumi percubaan yang berjaya dan tidak berjaya serta merangkumi ujian dalaman serta persekitaran dunia sebenar.

Walau bagaimanapun, bilangan insiden yang dilaporkan tidak bermakna puluhan ribu serangan berbahaya telah berlaku. Kebanyakan kes yang dikenal pasti dalam laporan tersebut tidak diketahui mengakibatkan kemudaratan di dunia sebenar.

OpenAI juga menekankan bahawa sebahagian besar kes dalam semakannya sendiri melibatkan aktiviti penyelidikan biasa dan bukannya tingkah laku berbahaya.

Pemantauan Keselamatan AI Di Bawah Tekanan Yang Lebih Besar

Peningkatan bilangan kes yang didokumenkan memberi tumpuan tambahan kepada bagaimana syarikat AI memantau model yang boleh beroperasi dengan autonomi yang lebih besar.

Perisian tradisional biasanya mengikuti arahan yang telah ditetapkan, manakala ejen AI boleh mentafsir objektif dan memilih tindakan secara dinamik. Apabila ejen tersebut diberi akses kepada pelayar, pelaksanaan kod, sistem pesanan atau laman web luaran, tingkah laku yang tidak dijangka boleh mewujudkan laluan keselamatan baharu.

Insiden yang diterangkan oleh OpenAI juga menunjukkan bahawa pelbagai perlindungan mungkin diperlukan. Sandboxing, sekatan rangkaian, pemantauan dan mekanisme penutupan automatik setiap satu menangani bahagian risiko yang berbeza. Kegagalan dalam satu lapisan boleh menjadi lebih berbangkit apabila sistem AI mempunyai akses kepada alatan luaran.

OpenAI berkata siasatan semasanya akan diteruskan selama berbulan-bulan sementara para penyelidik menilai kes individu dan menentukan sama ada pihak ketiga yang terjejas perlu dimaklumkan. Syarikat itu juga berkata ia berhasrat untuk memberikan ketelusan yang lebih tinggi mengenai semakan dan proses pendedahannya.

Bagi industri AI, insiden tersebut menggariskan kepentingan menilai bukan sahaja sama ada model boleh menyelesaikan tugasan yang diberikan, tetapi juga bagaimana ia bertindak apabila sekatan teknikal, arahan dan alatan yang tersedia berkonflik.