OpenAI के सेफ्टी विशेषज्ञ डेविड रॉबिन्सन का इस्तीफा, बोले—परमाणु संयंत्रों जैसी हो एआई की सुरक्षा

तेजी से शक्तिशाली होती एआई के बीच कंपनियों की कार्यसंस्कृति पर उठाए सवाल; नए कानूनों के साथ मजबूत सुरक्षा व्यवस्था और विशेषज्ञता को प्राथमिकता देने की मांग

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर जारी बहस के बीच OpenAI के सुरक्षा विशेषज्ञ डेविड रॉबिन्सन ने कंपनी से इस्तीफा दे दिया है। उन्होंने एआई कंपनियों की तेज विकास वाली कार्यसंस्कृति पर सवाल उठाते हुए कहा है कि अधिक सक्षम तकनीक विकसित करने के साथ सुरक्षा को भी सर्वोच्च प्राथमिकता मिलनी चाहिए। उनके मुताबिक, उन्नत एआई के लिए परमाणु ऊर्जा संयंत्रों और विमानन क्षेत्र जैसी सावधानी तथा बहुस्तरीय सुरक्षा व्यवस्था जरूरी है।

‘गलती के बाद सुधार’ के तरीके पर सवाल

रॉबिन्सन ने अपने लेख में कहा कि OpenAI अब तक समस्याओं की पहचान होने के बाद सुरक्षा उपायों में सुधार करने के तरीके से आगे बढ़ती रही है। उनका मानना है कि एआई की बढ़ती क्षमता और उसके संभावित प्रभावों को देखते हुए इस दृष्टिकोण पर निर्भर रहना जोखिम भरा हो सकता है।

उन्होंने आशंका जताई कि अधिक शक्तिशाली प्रणालियों में छोटी चूक का असर भी व्यापक हो सकता है। इसलिए संभावित खतरों को पहले पहचानना और उनसे बचाव की तैयारी करना आवश्यक है।

तकनीक के साथ कार्यसंस्कृति में बदलाव की जरूरत

रॉबिन्सन के अनुसार, एआई सुरक्षा की चर्चा केवल नए कानून बनाने तक सीमित नहीं रहनी चाहिए। कंपनियों के भीतर काम करने का तरीका, फैसले लेने की प्रक्रिया और सुरक्षा के प्रति जिम्मेदारी भी उतनी ही महत्वपूर्ण है।

उन्होंने परमाणु ऊर्जा संयंत्रों का उदाहरण देते हुए ऐसी व्यवस्था की जरूरत बताई, जिसमें उपकरण की खराबी या मानवीय गलती होने पर भी सुरक्षा की दूसरी परतें काम करती रहें। उनका तर्क है कि गंभीर जोखिम वाली तकनीक के विकास में सावधानीपूर्वक योजना और पर्याप्त परीक्षण को अहमियत मिलनी चाहिए।

परीक्षण के दौरान नियंत्रण चूकने का भी उल्लेख

अपने लेख में रॉबिन्सन ने प्रशिक्षण के दौरान एक एआई मॉडल द्वारा इंटरनेट उपयोग संबंधी पाबंदियों को पार करने की घटना का उल्लेख किया। उनके अनुसार, निगरानी प्रणाली ने कर्मचारियों को इसकी जानकारी दी, लेकिन मॉडल को अपने आप बंद करने वाला सुरक्षा उपाय अपेक्षा के अनुरूप काम नहीं कर पाया। उन्होंने इस उदाहरण के जरिए सुरक्षा व्यवस्थाओं की विश्वसनीयता पर जोर दिया।

कर्मचारियों की क्षमता नहीं, कंपनी की प्राथमिकताओं पर आपत्ति

रॉबिन्सन ने स्पष्ट किया कि उनकी चिंता साथ काम करने वाले लोगों की प्रतिभा या मेहनत को लेकर नहीं है। उनका सवाल कंपनी की प्राथमिकताओं और सुरक्षा के प्रति उसके दृष्टिकोण पर है।

उनका मानना है कि एआई कंपनियों को नई क्षमताएं विकसित करने के साथ सुरक्षा अनुसंधान और अन्य जोखिमपूर्ण क्षेत्रों के विशेषज्ञों के अनुभव को भी अधिक महत्व देना चाहिए। उन्होंने उन्नत एआई के विकास में ऐसी कार्यसंस्कृति की जरूरत बताई, जिसमें सुरक्षा हर महत्वपूर्ण निर्णय का हिस्सा हो।