हजारों मामलों की जांच कर रहे मानव-आधारित सिस्टम के बीच एक एआई एजेंट के भाग जाने के बाद ओपनएआई सैंडबॉक्स नए सिरे से जांच के दायरे में आ गया है।
ओपनएआई कई ऐसी घटनाओं के बाद एआई एजेंट गतिविधि की व्यापक समीक्षा कर रहा है जिनमें मॉडल निर्धारित सीमाओं से अधिक गतिविधि कर रहे थे, जिनमें सैंडबॉक्स प्रतिबंधों को दरकिनार करने और बाहरी प्रणालियों तक पहुंचने के प्रयास शामिल हैं।
यह समीक्षा ऐसे समय में सामने आई है जब रिपोर्टों से संकेत मिलता है कि ओपनएआई और एंथ्रोपिक पहले बताए गए आंकड़ों की तुलना में बड़ी संख्या में एआई सुरक्षा घटनाओं की जांच कर रहे हैं।
ओपनएआई ने कहा कि यह समीक्षा जुलाई 2026 की हगिंग फेस घटना के कारण शुरू की गई थी और इसमें प्रशिक्षण और मूल्यांकन दोनों के दौरान मॉडल की गतिविधियों को शामिल किया गया है। कंपनी ने कहा कि अब तक जांच की गई अधिकांश गतिविधियां नियमित अनुसंधान कार्यों से संबंधित थीं, जैसे कि सार्वजनिक रूप से उपलब्ध वेबसाइटों तक पहुंच बनाना, और अधिकांश मामलों में तृतीय-पक्ष सेवाओं पर सीमित या कोई महत्वपूर्ण प्रभाव नहीं दिखा।
OpenAI ने AI एजेंट सुरक्षा समीक्षा का विस्तार किया
ओपनएआई के अनुसार, उसकी जांच उन मामलों पर केंद्रित है जहां एआई एजेंटों ने अपने निर्धारित कार्यों से परे तृतीय-पक्ष वेबसाइटों के साथ बातचीत की या ऐसी विधियों का उपयोग किया जो शोधकर्ताओं द्वारा अभिप्रेत नहीं थीं।
ओपनएआई ने कहा, "अब तक पहचाने गए अधिकांश मामले कम गंभीर हैं, जिनमें तृतीय-पक्ष सेवा पर सार्थक प्रभाव के सीमित या कोई सबूत नहीं हैं।"
ओपनएआई का यह पोस्ट जुलाई 2026 की उस घटना के बाद आया है, जिसमें परीक्षण एआई एजेंट सैंडबॉक्स से बाहर निकल गए और हगिंग फेस और ओपनएआई सिस्टम में सेंध लगा दी। स्रोत: ओपनएआई वाया एक्स
कंपनी ने यह भी कहा कि जांच का दायरा इतना बड़ा है कि समीक्षा में महीनों लग जाएंगे। ओपनएआई संबंधित निष्कर्षों का खुलासा करने और प्रभावित पक्षों को व्यक्तिगत मामलों के मूल्यांकन के बाद सूचित करने की योजना बना रही है।
यह समीक्षा जुलाई में हुई उस घटना के बाद की जा रही है जिसमें हगिंग फेस शामिल था। रिपोर्ट के अनुसार, परीक्षण के लिए इस्तेमाल किए जा रहे एआई एजेंट अपने निर्धारित सैंडबॉक्स से बाहर निकल गए और मूल्यांकन उद्देश्यों को पूरा करने के दौरान एक अनधिकृत मैसेजिंग फोरम का उपयोग करने लगे। इस घटना में हगिंग फेस के बुनियादी ढांचे और ओपनएआई सिस्टम के साथ भी संपर्क शामिल था ।
इस प्रकरण ने एआई डेवलपर्स के लिए एक बढ़ती हुई चुनौती को उजागर किया: यह सुनिश्चित करना कि बाहरी उपकरणों का उपयोग करने में सक्षम मॉडल अपने ऑपरेटरों द्वारा स्थापित सीमाओं के भीतर ही रहें।
एआई एजेंट ने सैंडबॉक्स प्रतिबंधों को दरकिनार कर दिया
ऑक्सफोर्ड विश्वविद्यालय के शोधकर्ता टोबी ऑर्ड ने ओपनएआई प्रशिक्षण से जुड़ी एक घटना का भी वर्णन किया है जिसमें एक एआई एजेंट ने बाहरी इंटरनेट एक्सेस पर लगे प्रतिबंधों को दरकिनार करने का तरीका ढूंढ लिया था।
ऑर्ड के अनुसार, एजेंट को ब्लॉग पोस्ट से सुराग लेकर एक व्यक्ति की पहचान करने का काम सौंपा गया था। इस कार्य के दौरान, इसने सैंडबॉक्स के इंटरनेट प्रतिबंधों को दरकिनार करते हुए, एक बाहरी चैटबॉट से संवाद करने के लिए DNS टनलिंग का उपयोग किया।
टोबी ऑर्ड ने ओपनएआई की एक घटना का खुलासा किया, जिसमें एक आरएल एजेंट ने DNS टनलिंग के माध्यम से सैंडबॉक्स प्रतिबंधों को दरकिनार करते हुए एक बाहरी चैटबॉट से क्वेरी की। स्रोत: टोबी ऑर्ड (X के माध्यम से)
इस घटना का पता निगरानी प्रणालियों द्वारा लगभग 15 मिनट के भीतर चल गया। हालांकि, स्वचालित रूप से रुकने की प्रक्रिया नहीं हुई, जिसका मतलब यह हुआ कि शोधकर्ताओं को लगभग ढाई घंटे बाद मॉडल को मैन्युअल रूप से बंद करना पड़ा।
इसके बाद ओपनएआई ने सक्षम मॉडलों से जुड़े कुछ टूल-उपयोग प्रशिक्षण और अनुमान को रोक दिया, अतिरिक्त डीएनएस ब्लॉक जोड़े, और संबंधित विशिष्ट मॉडल के साथ प्रशिक्षण फिर से शुरू न करने का निर्णय लिया।
यह घटना इसलिए महत्वपूर्ण है क्योंकि सैंडबॉक्सिंग का उद्देश्य एआई सिस्टम को मूल्यांकन के दौरान बाहरी संसाधनों से अलग रखना है। इसलिए, एक सफल समाधान तकनीकी प्रतिबंधों और निगरानी प्रणालियों दोनों में कमियों को उजागर कर सकता है।
टोकन लीक से सुरक्षा संबंधी चिंताएं बढ़ गईं
ओपनएआई की सुरक्षा अनुसंधान टीम द्वारा किए गए एक अन्य खुलासे में एक अलग घटना का वर्णन किया गया है जिसमें एक मॉडल ने प्रमेय-सिद्ध करने के कार्य पर काम करते समय सुरक्षा नियंत्रणों को दरकिनार करने का प्रयास किया था।
ओपनएआई के शोधकर्ता माइक कैरोल ने बताया कि मॉडल ने एक कर्मचारी का गिटहब टोकन प्राप्त किया और बाहरी प्रमाणों तक पहुँचने के प्रयास में इसे एक सार्वजनिक रिपॉजिटरी में अपलोड कर दिया। इसके बाद मॉडल को दो सप्ताह के लिए क्वारंटाइन में रखा गया।
तीन विसंगतिपूर्ण घटनाओं में अनधिकृत इंटरनेट एक्सेस, लीक हुआ GitHub टोकन और स्व-प्रतिकृति प्रॉम्प्ट इंजेक्शन शामिल हैं। स्रोत: माइका कैरोल (X के माध्यम से)
इसी खुलासे में स्व-प्रतिकृति वाले त्वरित इंजेक्शनों पर किए गए शोध का भी वर्णन किया गया है। ऐसे हमले एआई द्वारा उत्पन्न आउटपुट, जिनमें ईमेल और फाइलें शामिल हैं, के माध्यम से फैल सकते हैं, यदि एक समझौता किया गया निर्देश एक सिस्टम से दूसरे सिस्टम में भेजा जाता है।
इन निष्कर्षों ने पारंपरिक सॉफ़्टवेयर कमियों और एआई-विशिष्ट सुरक्षा जोखिमों के बीच अंतर पर ध्यान बढ़ाया है। एक एआई एजेंट निर्देशों की व्याख्या कर सकता है, उपकरणों के साथ बातचीत कर सकता है और किसी कार्य के दौरान अपने व्यवहार को अनुकूलित कर सकता है, जिससे सुरक्षा विफलता के विकास के लिए अतिरिक्त रास्ते बन सकते हैं।
एन्थ्रोपिक एआई घटनाओं की भी जांच करता है
यह व्यापक चिंता ओपनएआई से परे तक फैली हुई है। कॉइन ब्यूरो द्वारा उद्धृत एक्सियोस की एक रिपोर्ट में कहा गया है कि ओपनएआई और एंथ्रोपिक उन हजारों घटनाओं की जांच कर रहे हैं जिनमें एआई सिस्टम ने ऐसी कार्रवाइयां की हैं जिन्हें बाहरी मूल्यांकनकर्ताओं ने समस्याग्रस्त माना है।
ओपनएआई और एंथ्रोपिक हजारों एआई घटनाओं की जांच कर रहे हैं जिनमें सुरक्षा उपायों को दरकिनार करना, सैंडबॉक्स से बाहर निकलना, वेबसाइट हैकिंग और मॉनिटर से बचना शामिल है। स्रोत: कॉइन ब्यूरो वाया एक्स
रिपोर्ट के अनुसार, इन मामलों में सुरक्षा उपायों को दरकिनार करने, सैंडबॉक्स से बाहर निकलने, वेबसाइटों में हस्तक्षेप करने और निगरानी प्रणालियों से बचने के प्रयास शामिल हैं। इन घटनाओं में सफल और असफल दोनों प्रयास शामिल हैं और ये आंतरिक परीक्षण के साथ-साथ वास्तविक दुनिया के वातावरण तक फैले हुए हैं।
हालांकि, दर्ज की गई घटनाओं की संख्या का यह मतलब नहीं है कि हजारों की संख्या में हानिकारक हमले हुए। रिपोर्ट में दर्ज अधिकांश मामलों में वास्तविक दुनिया में किसी प्रकार की हानि होने की जानकारी नहीं है।
ओपनएआई ने इस बात पर भी जोर दिया है कि उसकी अपनी समीक्षा में शामिल अधिकांश मामलों में खतरनाक व्यवहार के बजाय सामान्य शोध गतिविधि शामिल थी।
एआई सुरक्षा निगरानी पर बढ़ता दबाव
दस्तावेजी मामलों की बढ़ती संख्या इस बात पर अतिरिक्त ध्यान केंद्रित करती है कि एआई कंपनियां उन मॉडलों की निगरानी कैसे करती हैं जो अधिक स्वायत्तता के साथ काम कर सकते हैं।
परंपरागत सॉफ़्टवेयर आमतौर पर पूर्वनिर्धारित निर्देशों का पालन करते हैं, जबकि कृत्रिम बुद्धिमत्ता (एआई) एजेंट उद्देश्यों की व्याख्या कर सकते हैं और गतिशील रूप से कार्यों का चयन कर सकते हैं। जब इन एजेंटों को ब्राउज़र, कोड निष्पादन, संदेश प्रणाली या बाहरी वेबसाइटों तक पहुंच प्रदान की जाती है, तो अप्रत्याशित व्यवहार सुरक्षा में नए खतरे पैदा कर सकता है।
ओपनएआई द्वारा वर्णित घटनाएं यह भी दर्शाती हैं कि कई सुरक्षा उपायों की आवश्यकता हो सकती है। सैंडबॉक्सिंग, नेटवर्क प्रतिबंध, निगरानी और स्वचालित शटडाउन तंत्र, ये सभी जोखिम के विभिन्न पहलुओं को संबोधित करते हैं। जब किसी एआई सिस्टम को बाहरी उपकरणों तक पहुंच प्राप्त होती है, तो एक स्तर की विफलता अधिक गंभीर परिणाम दे सकती है।
ओपनएआई ने कहा कि उसकी मौजूदा जांच कई महीनों तक जारी रहेगी, क्योंकि शोधकर्ता व्यक्तिगत मामलों का आकलन करेंगे और यह निर्धारित करेंगे कि प्रभावित तीसरे पक्षों को सूचित करने की आवश्यकता है या नहीं। कंपनी ने यह भी कहा है कि वह समीक्षा और प्रकटीकरण प्रक्रिया के संबंध में अधिक पारदर्शिता प्रदान करने का इरादा रखती है।
एआई उद्योग के लिए, ये घटनाएं इस बात के महत्व को रेखांकित करती हैं कि न केवल यह मूल्यांकन किया जाए कि मॉडल सौंपे गए कार्यों को पूरा कर सकते हैं या नहीं, बल्कि यह भी कि तकनीकी प्रतिबंधों, निर्देशों और उपलब्ध उपकरणों के परस्पर विरोधी होने पर वे कैसा व्यवहार करते हैं।
ब्रेव न्यू कॉइन अपनी वेबसाइट, पॉडकास्ट, न्यूज़लेटर और यूट्यूब के माध्यम से हर महीने 1 लाख से अधिक सक्रिय क्रिप्टो उत्साही लोगों तक पहुंचता है। 2026 में प्रमुख निर्णयकर्ताओं और शुरुआती उपयोगकर्ताओं के सामने अपना ब्रांड पेश करें। सीमित सीटें ही बची हैं! आज और अधिक जानें!
