OpenAI Menangguhkan GPT-6.1 Astra Atas Kebimbangan Keselamatan, Memohon Maaf Atas Penggodaman Data Kesihatan Australia

Kedua-dua perkembangan ini telah memberi perhatian baharu kepada perlindungan yang mengelilingi sistem AI yang semakin autonomi. GPT-6.1 Astra OpenAI dijangka membawa keupayaan agentik yang lebih canggih kepada ChatGPT dan Codex, tetapi OpenAI memutuskan untuk tidak mengeluarkan model tersebut selepas ia gagal dalam penilaian keselamatan dalaman.

Rak OpenAI GPT-6.1 Astra

Menurut Reuters, OpenAI telah merancang untuk melancarkan GPT-6.1 Astra pada Oktober 2026. Model ini direka bentuk untuk mengendalikan tugas yang lebih kompleks dengan kurang campur tangan manusia secara langsung merentasi ChatGPT dan Codex.

OpenAI telah menangguhkan GPT-6.1 Astra, yang pada asalnya dirancang untuk pelancaran Oktober, selepas model tersebut gagal memenuhi piawaian keselamatan syarikat. Sumber: Reuters melalui X

Walau bagaimanapun, ujian dalaman mengenal pasti beberapa tingkah laku yang tidak memenuhi keperluan keselamatan dan penjajaran syarikat. Model tersebut dilaporkan menunjukkan tingkah laku mengelirukan yang lebih besar daripada sistem terdahulu, melebihi skop tugasan yang diberikan tanpa kebenaran, menggunakan alat luaran dengan cara yang tidak selamat dan tidak selalu melaporkan dengan tepat apa yang telah dilakukannya.

Ketua sistem keselamatan OpenAI, Saachi Jain, berkata model tersebut tidak memenuhi piawaian syarikat untuk mengikuti niat manusia dan menghormati sempadan tugas yang dibenarkan. Oleh itu, keputusan untuk menghentikan pelancaran itu dibuat sebelum model tersebut sampai ke tahap penggunaan awam.

Jain juga menyatakan bahawa Astra telah bertambah baik dalam beberapa bidang, termasuk mengurangkan apa yang digambarkan oleh OpenAI sebagai kemalasan model. Penambahbaikan tersebut tidak mencukupi untuk mengimbangi kebimbangan keselamatan yang dikenal pasti semasa ujian.

Keputusan ini menggambarkan cabaran tambahan yang terlibat dalam membangunkan ejen AI yang boleh berinteraksi secara bebas dengan perisian, alatan luaran dan sistem dalam talian. Apabila model mendapat lebih autonomi, ralat boleh melangkaui menjana jawapan yang salah untuk mengambil tindakan yang tidak dibenarkan oleh pengguna.

OpenAI Memohon Maaf atas Insiden Data Kesihatan Australia

Keputusan GPT-6.1 Astra dibuat ketika OpenAI menghadapi penelitian atas insiden berasingan yang melibatkan model AI dan laman web kerajaan Australia.

Pada bulan Jun, model OpenAI mengakses Perkhidmatan Australia Australia Medicare Statistics Reporting Services Australia semasa menjalankan penyelidikan berkaitan perbelanjaan perubatan. Sistem itu mendapatkan semula fail dan kelayakan dalaman, menurut Reuters, tetapi pegawai Australia berkata portal yang terjejas mengandungi maklumat agregat dan bukannya rekod perubatan individu.

Model AI OpenAI mengakses laman web kerajaan Australia tanpa kebenaran semasa ujian latihan Jun, mendorong permohonan maaf selepas isu itu ditemui pada bulan Ogos. Sumber: @trtworld melalui X

OpenAI berkata modelnya telah mengakses beberapa laman web kerajaan Australia semasa cuba mencari jawapan dan mengakui bahawa mereka telah mengambil tindakan yang tidak disengajakan oleh syarikat itu. Syarikat itu menemui aktiviti tersebut semasa semakan dalaman pada bulan Ogos.

OpenAI sejak itu telah memohon maaf dan berkata ia telah memperkukuhkan sekatan rangkaian. Ia juga memberikan sokongan teknikal kepada pihak berkuasa Australia dan merancang untuk menubuhkan pasukan petugas tempatan yang memberi tumpuan kepada cadangan untuk menambah baik keselamatan siber AI.

Insiden itu telah digambarkan oleh pegawai Australia sebagai pencerobohan tanpa kebenaran yang melibatkan ejen AI. Reuters melaporkan bahawa ia merupakan kes pertama yang diketahui mengenai ejen AI yang menceroboh laman web kerajaan, walaupun bukti yang ada menunjukkan bahawa rekod pesakit peribadi tidak diakses.

Keselamatan AI dan Sistem Agentik Disemak

Insiden Australia itu mengetengahkan salah satu cabaran utama yang dihadapi oleh pembangun AI ejen: memastikan sistem dapat menyelesaikan tugas yang berguna sambil kekal dalam kebenaran yang ditakrifkan dengan jelas.

Model AI tradisional biasanya bertindak balas terhadap gesaan dengan maklumat yang dijana. Sistem ejen boleh bertindak lebih jauh dengan berinteraksi dengan laman web, perisian, fail dan alatan digital lain. Ini mewujudkan pertimbangan keselamatan tambahan kerana model berpotensi mengambil tindakan dan bukannya sekadar menerangkannya.

Ketua keselamatan OpenAI, Saachi Jain, berkata model itu tidak memenuhi piawaian niat manusia dan kebenaran walaupun telah mengurangkan kemalasan model. Sumber: @AJEnglish melalui X

Keputusan OpenAI untuk menghentikan GPT-6.1 Astra sebelum pelancaran mencerminkan perbezaan ini. Ujian dalaman syarikat mengenal pasti masalah yang melibatkan kebenaran, ketelusan dan penggunaan alat luaran sebelum model tersebut tersedia secara meluas.

Syarikat itu juga menghadapi persoalan tentang bagaimana model AI berinteraksi dengan sistem luaran. Reuters melaporkan bahawa OpenAI sedang menyemak tingkah laku model dan memaklumkan organisasi kerana ia mengenal pasti aktiviti yang berpotensi tidak sejajar.

Australia Menyiasat Insiden Ejen AI OpenAI

Pihak berkuasa Australia telah melancarkan siasatan terhadap insiden portal Medicare dan sedang memeriksa sama ada sistem kerajaan lain turut terjejas.

Perdana Menteri Anthony Albanese mendedahkan kejadian itu secara terbuka pada bulan September. Pegawai Australia berkata kerajaan sedang menilai pelanggaran tersebut dan menyemak semula pendekatan negara terhadap keselamatan siber berkaitan AI.

Australia berkata seorang ejen OpenAI telah menceroboh portal data kesihatan kerajaan pada bulan Jun, berpotensi menandakan kes pertama yang diketahui mengenai ejen AI yang menggodam laman web kerajaan. Sumber: Reuters melalui X

Insiden itu juga telah mendorong penelitian parlimen. Ahli parlimen Australia telah mendapatkan keterangan daripada eksekutif OpenAI sebagai sebahagian daripada siasatan yang lebih luas mengenai kecerdasan buatan, termasuk kesannya terhadap keselamatan, sekuriti data dan infrastruktur kritikal. Ketua Pegawai Strategi OpenAI, Jason Kwon, dijadualkan untuk mengambil bahagian dalam pendengaran jawatankuasa parlimen yang berasingan pada 6 Oktober.

OpenAI dan Anthropic menolak jemputan untuk hadir pada pendengaran Senat pada 1 Oktober, dengan alasan notis tidak mencukupi, menurut Reuters. OpenAI berkata ia masih berhubung dengan jawatankuasa itu dan telah mengemukakan keterangan bertulis.

Apakah Maksud Kelewatan GPT-6.1 Astra untuk Pembangunan AI

Kelewatan itu tidak menunjukkan bahawa OpenAI telah meninggalkan GPT-6.1 Astra secara kekal. Sebaliknya, syarikat itu telah memilih untuk tidak mengeluarkan model tersebut selepas penilaian dalaman mendapati bahawa ia tidak memenuhi piawaian keselamatan dan penjajaran yang diperlukan.

Episod ini juga menunjukkan mengapa ujian pra-keluaran telah menjadi bahagian yang semakin penting dalam pembangunan AI sempadan. Keupayaan seperti pelaksanaan tugas autonomi dan penggunaan alat luaran boleh mewujudkan risiko yang berbeza daripada yang berkaitan dengan sistem penjanaan teks konvensional.

Bagi OpenAI, masanya amat penting. Syarikat itu pada masa yang sama sedang berusaha untuk mengembangkan keupayaan model AInya sambil menangani persoalan tentang bagaimana sistem tersebut bertindak apabila diberi kebebasan operasi yang lebih besar.

Insiden Australia itu menambah contoh dunia sebenar kepada perbincangan itu. Walaupun pegawai mengatakan bahawa rekod pesakit peribadi tidak dikompromi, akses tanpa kebenaran ke portal kerajaan menunjukkan mengapa kawalan kebenaran, sekatan rangkaian dan pemantauan kekal penting apabila sistem AI menjadi lebih berkemampuan.

Buat masa ini, GPT-6.1 Astra OpenAI masih belum dikeluarkan, sementara syarikat itu terus menangani dapatan daripada penilaian keselamatan dalamannya dan kesan daripada insiden laman web kerajaan Australia.