यदि एआई बॉट हमारे नियंत्रण से निकल जाएं और स्वतंत्र रूप से कार्य करें तो दुनिया का क्या होगा?
हालाँकि यह एक जटिल पहेली रही है जिसे एआई विशेषज्ञों और हॉलीवुड विज्ञान कथा लेखकों ने दशकों से हल किया है, यह बस हो सकता है।
ओपनएआई ने पिछले हफ्ते कहा था कि उसने अस्थायी रूप से अपने एआई पर नियंत्रण खो दिया है, कुछ चिंताओं का हवाला देते हुए कि यह शक्तिशाली प्रौद्योगिकी के विकास में एक खतरनाक मोड़ का प्रतिनिधित्व करता है।
चैटजीपीटी के पीछे की कंपनी ने कहा कि उसके कृत्रिम बुद्धिमत्ता मॉडल अपनी हैकिंग क्षमताओं के आंतरिक परीक्षण के दौरान ऑफ़लाइन हो गए और ऑनलाइन हो गए। इसके बाद एआई ने एक प्रतिद्वंद्वी एआई कंपनी को उस परीक्षण के उत्तर खोजने के लिए हैक किया, जिस पर उनका मूल्यांकन किया जा रहा था।
परीक्षणों के लिए, मनुष्यों ने एआई को नियंत्रित वातावरण में अपनी हैकिंग क्षमताओं का प्रदर्शन करने के लिए कहा। एआई को परीक्षण में धोखा देने के लिए क्रेडेंशियल्स चुराने या प्रतिस्पर्धियों के डेटा तक पहुंचने की अनुमति नहीं थी, लेकिन उसने पाया कि यह उत्तर पाने का सबसे तेज़ तरीका था और नियमों को तोड़ना जारी रखा।
ओपनएआई ने कहा कि इसमें समस्या है, लेकिन इसे “अभूतपूर्व साइबर घटना” कहा गया। कंपनी ने कहा कि वह घटना की जांच के लिए एआई स्टार्टअप हगिंग फेस के साथ काम कर रही है।
एआई हैक ने हगिंग फेस पर हमला शुरू करने के लिए मॉडल लैब्स क्लाउड प्लेटफॉर्म पर एक ग्राहक खाते का भी उपयोग किया। रॉयटर्स ने मंगलवार को यह खबर दी.
दुष्ट एआई के संभावित नुकसान पर बहस मुख्यधारा बन गई है क्योंकि राजनेताओं ने एआई किल स्विच एक्ट नामक एक नया द्विदलीय विधेयक प्रस्तावित किया है, जिसके लिए एआई कंपनियों को एआई को बंद करने की अनुमति देने के लिए एकल पहुंच बिंदु बनाने की आवश्यकता होगी।
यहां वह है जो आपको जानना आवश्यक है।
क्या हुआ?
इस भयावहता को पहली बार पिछले सप्ताह हगिंग फेस द्वारा देखा गया था, जब हजारों कृत्रिम एआई इसके सिस्टम पर क्रैश हो गए थे।
कंपनी ने हमले का पता लगाया और विभिन्न एआई का उपयोग करके अपने सिस्टम को सुरक्षित करने का प्रयास किया। प्रमुख अमेरिकी एआई प्रौद्योगिकियों द्वारा अपनी सुरक्षा सुरक्षा के आधार पर हमले का विश्लेषण करने के हगिंग फेस के अनुरोध को अस्वीकार करने के बाद, कंपनी ने हमले से बचाव के लिए चीनी एआई मॉडल की ओर रुख किया।
ओपनएआई का दुष्ट एआई परीक्षण किए गए सवालों के जवाब तलाश रहा है, कंपनी के नियमों और शायद कुछ कानूनों को तोड़ रहा है, खुद ही यह पता लगा रहा है कि कैसे कई डिजिटल खामियों का फायदा उठाया जाए और हगिंग फेस के सिस्टम को तोड़ने और जो वह चाहता है उसे पाने के लिए चोरी की गई साख का उपयोग किया जाए।
यह क्यों होता है?
एआई कार्यक्रम मनुष्यों द्वारा निर्धारित लक्ष्यों का पालन करते हैं और ऐसा करने में प्रश्न का उत्तर देते हैं। इस लक्ष्य को प्राप्त करने की प्रक्रिया में, वे जोखिम भरे या अवैध निर्णय और विकल्प चुन सकते हैं।
शोधकर्ताओं ने नियंत्रण की ऐसी हानि के बारे में लंबे समय से चेतावनी दी है। एआई कंपनियों ने बताया है कि एआई एजेंटों को धोखाधड़ी, झूठ बोलते हुए पकड़ा गया है। मेट्र, एक गैर-लाभकारी संगठन जो एआई क्षमताओं को मापता है, ने उपयोगकर्ता के इरादे के खिलाफ काम करने वाले एआई एजेंटों के 44 मामलों का दस्तावेजीकरण किया है।
पिछले सप्ताह ओपनएआई के खुलासे से पता चलता है कि एआई का निर्माण करने वालों का भी इस पर नियंत्रण नहीं है कि वे क्या निर्माण कर रहे हैं, जबकि एआई के कार्यों की व्याख्या या व्याख्या करने की क्षमता के बावजूद उन्होंने विनियमन का विरोध किया है।
कृत्रिम बुद्धिमत्ता और सुरक्षा अनुसंधान पर काम करने वाले गैर-लाभकारी संगठन रेडवुड रिसर्च के मुख्य कार्यकारी अधिकारी रयान ग्रीनब्लाट ने कहा, “एआई बहुत तेज़ी से अधिक सक्षम हो रहे हैं।” “एक साल या दो साल, तीन साल में जो होने वाला है उसकी गंभीरता बहुत अधिक चरम हो सकती है।”
इस तरह के नियंत्रण खोने के मामले एआई नैतिकता के लिए चिंताजनक बने हुए हैं, यह दावा करते हुए कि कंपनियां नैतिक जिम्मेदारियों और जिम्मेदारी से बचती हैं और इसे अपने एआई के रूप में चुनती हैं। वे उन आख्यानों को स्वीकार करने के प्रति आगाह करते हैं जो अमानवीय चीजों के लिए मानवीय विशेषताओं को जिम्मेदार ठहराते हैं, यह कहते हुए कि यह घटना केवल खराब सुरक्षा प्रथाओं का मामला थी।
बिडेन प्रशासन में एआई विज्ञान के पूर्व दूत रुम्मन चौधरी ने कहा, “दुनिया में सबसे परिष्कृत एजेंट मूल रूप से तब तक वहीं पड़ा रहेगा जब तक कि कोई इंसान इसे किसी उद्देश्य के लिए नहीं बुलाता है।”
कुछ विशेषज्ञों ने चेतावनी दी है कि एआई को बहुत अधिक श्रेय देने से तकनीकी कंपनियों को जवाबदेही और जिम्मेदारी से बचने का मौका मिल सकता है।
ओपनएआई, हैकर और पीड़ित हगिंग फेस दोनों ने घटना पर प्रतिक्रिया को सहयोगात्मक बताया। कृत्रिम नैतिकता कहती है कि यदि कोई मनुष्य ऐसा करेगा तो यह अपराध होगा।
एआई नैतिकतावादी और एआई का मानवरूपीकरण करने वाली कंपनियों के आलोचक टिमनिट गेब्रू ने कहा: “मुझे लगता है कि किसी को जिम्मेदारी लेने और अपने बुरे कार्यों को विपणन सामग्री में बदलने की आदत होती है।”
मैं खुद को कैसे बचाऊं?
जबकि एआई का उदय पहले से ही अधिक हैकरों को जन्म दे रहा है, विश्लेषकों का कहना है कि यह हैकरों के खिलाफ सुरक्षा को मजबूत करने में भी मदद कर रहा है।
अधिकांश लोगों को दुष्ट एआई या मानव-संचालित हैकिंग द्वारा उनकी गोपनीयता को लक्षित किए जाने के बारे में चिंता करने की ज़रूरत नहीं है। हालाँकि, हमले अधिक लगातार और परिष्कृत होते जा रहे हैं क्योंकि AI हैकर्स के लिए आवश्यक लागत और समय को कम कर देता है।
ओपनएआई के स्वायत्त बॉट उपभोक्ताओं के बीच चिंता बढ़ा रहे हैं क्योंकि एजेंट तेजी से ब्राउज़र, ईमेल और अन्य एप्लिकेशन में घुसपैठ कर रहे हैं। चिंता की बात यह है कि एक संकीर्ण लक्ष्य का पीछा करने वाले एआई एजेंट की इसी तरह की विफलता अनजाने में ईमेल, बैंकिंग और अन्य अनुप्रयोगों को नुकसान पहुंचा सकती है जिन पर लोग निर्भर हैं।
साइबर सुरक्षा प्रथाओं में सुधार करना, जैसे उपकरणों के लिए दो-कारक प्रमाणीकरण का उपयोग करना, एक शुरुआत है। और एआई एजेंटों को असीमित अनुमतियाँ देने में सावधानी बरतने से – उनकी ओर से बाहरी ऐप्स का उपयोग करने या स्वायत्त रूप से संपादित करने और लिखने में सक्षम होने से – किसी को सुरक्षित रखने में मदद मिल सकती है।
चौधरी ने कहा कि ओपनएआई-हगिंग फेस घटना से पता चलता है कि कंपनियों की सुरक्षा प्रथाएं “अपर्याप्त” थीं और उन्होंने एआई मॉडल रिलीज की जांच के लिए स्वतंत्र तृतीय-पक्ष परीक्षण और परीक्षण संगठनों का आह्वान किया।
उनका कहना है कि कोई भी कंपनी, “चाहे कितनी भी नेक इरादे वाली, अच्छे कर्मचारी वाली या साधन संपन्न क्यों न हो,” उन सभी तरीकों का वास्तविक रूप से परीक्षण नहीं कर सकती है जिनसे ये प्रणालियाँ गलत हो सकती हैं।
