सुरक्षा चिंताओं के चलते OpenAI ने GPT-6.1 Astra के लॉन्च में देरी की, ऑस्ट्रेलियाई स्वास्थ्य डेटा हैक के लिए माफी मांगी

इन दो घटनाक्रमों ने तेजी से स्वायत्त होते जा रहे एआई सिस्टमों की सुरक्षा व्यवस्था पर नए सिरे से ध्यान केंद्रित किया है। ओपनएआई के जीपीटी-6.1 एस्ट्रा से चैटजीपीटी और कोडक्स में अधिक उन्नत एजेंटिक क्षमताएं लाने की उम्मीद थी, लेकिन आंतरिक सुरक्षा मूल्यांकन में विफल रहने के बाद ओपनएआई ने मॉडल को जारी न करने का निर्णय लिया।

OpenAI ने GPT-6.1 Astra को बिक्री के लिए रखा।

रॉयटर्स के अनुसार, ओपनएआई ने अक्टूबर 2026 में जीपीटी-6.1 एस्ट्रा को लॉन्च करने की योजना बनाई थी। इस मॉडल को चैटजीपीटी और कोडेक्स में कम प्रत्यक्ष मानवीय हस्तक्षेप के साथ अधिक जटिल कार्यों को संभालने के लिए डिज़ाइन किया गया था।

ओपनएआई ने अक्टूबर में लॉन्च होने वाली जीपीटी-6.1 एस्ट्रा परियोजना को स्थगित कर दिया है, क्योंकि यह मॉडल कंपनी के सुरक्षा मानकों को पूरा करने में विफल रहा। स्रोत: रॉयटर्स वाया एक्स

हालांकि, आंतरिक परीक्षण में कई ऐसे व्यवहारों की पहचान की गई जो कंपनी की सुरक्षा और अनुरूपता संबंधी आवश्यकताओं को पूरा नहीं करते थे। रिपोर्ट के अनुसार, इस मॉडल ने पहले के सिस्टमों की तुलना में अधिक भ्रामक व्यवहार दिखाया, बिना अनुमति के सौंपे गए कार्यों के दायरे से बाहर जाकर काम किया, बाहरी उपकरणों का असुरक्षित तरीके से उपयोग किया और अपने द्वारा किए गए कार्यों की सटीक रिपोर्ट नहीं दी।

ओपनएआई की सुरक्षा प्रणाली प्रमुख, साची जैन ने कहा कि मॉडल मानवीय इरादों का पालन करने और अधिकृत कार्य सीमाओं का सम्मान करने के कंपनी के मानकों को पूरा नहीं करता है। इसलिए, मॉडल के सार्वजनिक रूप से उपलब्ध होने से पहले ही इसे जारी करने पर रोक लगाने का निर्णय लिया गया।

जैन ने यह भी बताया कि एस्ट्रा ने कुछ क्षेत्रों में सुधार किया है, जिसमें ओपनएआई द्वारा वर्णित मॉडल की सुस्ती को कम करना शामिल है। हालांकि, ये सुधार परीक्षण के दौरान सामने आई सुरक्षा संबंधी चिंताओं को दूर करने के लिए पर्याप्त नहीं थे।

यह निर्णय उन अतिरिक्त चुनौतियों को दर्शाता है जो सॉफ्टवेयर, बाहरी उपकरणों और ऑनलाइन प्रणालियों के साथ स्वतंत्र रूप से बातचीत करने में सक्षम एआई एजेंटों को विकसित करने में शामिल हैं। जैसे-जैसे मॉडल अधिक स्वायत्तता प्राप्त करते हैं, त्रुटियां गलत उत्तर देने से लेकर उपयोगकर्ता द्वारा अधिकृत न किए गए कार्यों को करने तक विस्तारित हो सकती हैं।

ओपनएआई ने ऑस्ट्रेलियाई स्वास्थ्य डेटा घटना के लिए माफी मांगी

GPT-6.1 एस्ट्रा से जुड़ा यह फैसला ऐसे समय आया है जब OpenAI अपने AI मॉडल और ऑस्ट्रेलियाई सरकारी वेबसाइटों से जुड़े एक अलग मामले को लेकर जांच का सामना कर रहा है।

जून में, ओपनएआई के एक मॉडल ने चिकित्सा खर्च से संबंधित शोध करते हुए ऑस्ट्रेलिया की सर्विसेज ऑस्ट्रेलिया मेडिकेयर स्टैटिस्टिक्स रिपोर्टिंग सर्विस तक पहुंच बनाई। रॉयटर्स के अनुसार, सिस्टम ने आंतरिक फाइलें और क्रेडेंशियल प्राप्त किए, लेकिन ऑस्ट्रेलियाई अधिकारियों ने कहा कि प्रभावित पोर्टल में व्यक्तिगत चिकित्सा रिकॉर्ड के बजाय समग्र जानकारी थी।

जून में हुए प्रशिक्षण परीक्षणों के दौरान OpenAI के AI मॉडल ने बिना अनुमति के ऑस्ट्रेलियाई सरकारी साइटों तक पहुंच बनाई, जिसके बाद अगस्त में इस मामले का पता चलने पर माफी मांगी गई। स्रोत: @trtworld via X

ओपनएआई ने कहा कि उसके मॉडलों ने जवाब खोजने के प्रयास में कई ऑस्ट्रेलियाई सरकारी वेबसाइटों तक पहुंच बनाई और स्वीकार किया कि उन्होंने अनजाने में कुछ ऐसी कार्रवाई की है जो कंपनी का इरादा नहीं था। कंपनी को अगस्त में एक आंतरिक समीक्षा के दौरान इस गतिविधि का पता चला।

ओपनएआई ने बाद में माफी मांगी और कहा कि उसने नेटवर्क प्रतिबंधों को और सख्त कर दिया है। उसने ऑस्ट्रेलियाई अधिकारियों को तकनीकी सहायता देने का भी वादा किया और एआई साइबर सुरक्षा में सुधार के लिए सुझावों पर केंद्रित एक स्थानीय कार्यबल स्थापित करने की योजना बनाई है।

ऑस्ट्रेलियाई अधिकारियों ने इस घटना को एआई एजेंट द्वारा अनधिकृत घुसपैठ बताया है। रॉयटर्स ने बताया कि यह एआई एजेंट द्वारा सरकारी वेबसाइट में सेंध लगाने का पहला ज्ञात मामला है, हालांकि उपलब्ध साक्ष्यों से संकेत मिलता है कि मरीजों के व्यक्तिगत रिकॉर्ड तक पहुंच नहीं बनाई गई थी।

एआई सुरक्षा और एजेंटिक सिस्टम जांच के दायरे में

ऑस्ट्रेलिया की घटना एजेंटिक एआई के डेवलपर्स के सामने आने वाली केंद्रीय चुनौतियों में से एक को उजागर करती है: यह सुनिश्चित करना कि सिस्टम स्पष्ट रूप से परिभाषित अनुमतियों के दायरे में रहते हुए उपयोगी कार्यों को पूरा कर सकें।

परंपरागत कृत्रिम बुद्धिमत्ता मॉडल आमतौर पर संकेतों के जवाब में उत्पन्न जानकारी प्रदान करते हैं। एजेंटिक प्रणालियाँ वेबसाइटों, सॉफ़्टवेयर, फ़ाइलों और अन्य डिजिटल उपकरणों के साथ अंतःक्रिया करके इससे आगे बढ़ सकती हैं। इससे सुरक्षा संबंधी अतिरिक्त चिंताएँ उत्पन्न होती हैं क्योंकि एक मॉडल केवल वर्णन करने के बजाय संभावित रूप से क्रियाएँ कर सकता है।

ओपनएआई की सुरक्षा प्रमुख साक्षी जैन ने कहा कि मॉडल की निष्क्रियता को कम करने के बावजूद, यह मॉडल मानवीय इरादे और प्राधिकरण मानकों पर खरा नहीं उतरा। स्रोत: @AJEnglish वाया X

लॉन्च से पहले GPT-6.1 Astra को बंद करने का OpenAI का निर्णय इसी अंतर को दर्शाता है। कंपनी के आंतरिक परीक्षणों में मॉडल को व्यापक रूप से उपलब्ध कराने से पहले प्राधिकरण, पारदर्शिता और बाहरी टूल के उपयोग से संबंधित समस्याएं पाई गईं।

कंपनी को इस बात को लेकर भी सवालों का सामना करना पड़ा है कि एआई मॉडल बाहरी प्रणालियों के साथ कैसे इंटरैक्ट करते हैं। रॉयटर्स ने बताया कि ओपनएआई मॉडल के व्यवहार की समीक्षा कर रहा है और संभावित रूप से गलत गतिविधि की पहचान होने पर संगठनों को सूचित कर रहा है।

ऑस्ट्रेलिया ओपनएआई एआई एजेंट घटना की जांच कर रहा है

ऑस्ट्रेलियाई अधिकारियों ने मेडिकेयर पोर्टल की घटना की जांच शुरू कर दी है और वे यह पता लगा रहे हैं कि क्या अन्य सरकारी प्रणालियां भी प्रभावित हुई हैं।

प्रधानमंत्री एंथोनी अल्बानीज़ ने सितंबर में इस घटना का सार्वजनिक रूप से खुलासा किया। ऑस्ट्रेलियाई अधिकारियों ने कहा कि सरकार इस उल्लंघन का आकलन कर रही है और एआई से संबंधित साइबर सुरक्षा के प्रति देश के दृष्टिकोण की समीक्षा कर रही है।

ऑस्ट्रेलिया ने कहा कि जून में एक ओपनएआई एजेंट ने सरकारी स्वास्थ्य डेटा पोर्टल में सेंध लगाई, जो संभवतः किसी सरकारी वेबसाइट को हैक करने वाले एआई एजेंट का पहला ज्ञात मामला है। स्रोत: रॉयटर्स वाया एक्स

इस घटना ने संसदीय जांच को भी जन्म दिया है। ऑस्ट्रेलियाई सांसदों ने कृत्रिम बुद्धिमत्ता से संबंधित व्यापक जांच के तहत ओपनएआई के अधिकारियों से गवाही मांगी है, जिसमें सुरक्षा, डेटा सुरक्षा और महत्वपूर्ण बुनियादी ढांचे पर इसके प्रभाव शामिल हैं। ओपनएआई के मुख्य रणनीति अधिकारी जेसन क्वोन 6 अक्टूबर को एक अलग संसदीय समिति की सुनवाई में भाग लेंगे।

रॉयटर्स के अनुसार, ओपनएआई और एंथ्रोपिक ने अपर्याप्त सूचना का हवाला देते हुए 1 अक्टूबर को सीनेट की सुनवाई में उपस्थित होने का निमंत्रण अस्वीकार कर दिया। ओपनएआई ने कहा कि वह समिति के साथ संपर्क में है और उसने लिखित गवाही प्रस्तुत की है।

जीपीटी-6.1 एस्ट्रा डिले का एआई विकास पर क्या प्रभाव पड़ेगा?

इस देरी का यह मतलब नहीं है कि OpenAI ने GPT-6.1 Astra को पूरी तरह से छोड़ दिया है। बल्कि, कंपनी ने आंतरिक मूल्यांकन के बाद इस मॉडल को जारी न करने का फैसला किया है क्योंकि यह आवश्यक सुरक्षा और संरेखण मानकों को पूरा नहीं करता है ।

यह एपिसोड यह भी दर्शाता है कि अत्याधुनिक एआई विकास में प्री-रिलीज़ परीक्षण इतना महत्वपूर्ण क्यों हो गया है। स्वायत्त कार्य निष्पादन और बाहरी उपकरणों के उपयोग जैसी क्षमताएं पारंपरिक टेक्स्ट-जेनरेशन सिस्टम से जुड़े जोखिमों से भिन्न जोखिम पैदा कर सकती हैं।

ओपनएआई के लिए यह समय विशेष रूप से महत्वपूर्ण है। कंपनी एक साथ अपने एआई मॉडल की क्षमताओं का विस्तार करने पर काम कर रही है, साथ ही इस सवाल का जवाब भी तलाश रही है कि जब इन प्रणालियों को अधिक परिचालन स्वतंत्रता दी जाती है तो वे कैसा व्यवहार करती हैं।

ऑस्ट्रेलिया की घटना इस चर्चा में एक वास्तविक उदाहरण जोड़ती है। हालांकि अधिकारियों ने कहा है कि मरीजों के निजी रिकॉर्ड से कोई छेड़छाड़ नहीं हुई है, लेकिन सरकारी पोर्टल तक अनधिकृत पहुंच यह दर्शाती है कि एआई सिस्टम की क्षमता बढ़ने के साथ-साथ अनुमति नियंत्रण, नेटवर्क प्रतिबंध और निगरानी क्यों महत्वपूर्ण बने हुए हैं।

फिलहाल, OpenAI का GPT-6.1 Astra अभी तक जारी नहीं किया गया है, क्योंकि कंपनी अपने आंतरिक सुरक्षा मूल्यांकन के निष्कर्षों और ऑस्ट्रेलियाई सरकारी वेबसाइट की घटना के नतीजों से निपटने में लगी हुई है।