एआई एजेन्टमै देखियो सुरक्षा जोखिम, ओपनएआईको मोडल रोकियो

अमेरिका । अमेरिकी एआई कम्पनी ओपनएआईले आफ्नो नयाँ एआई मोडल ‘जीपीटी–६.१ अस्ट्रा’ (GPT-6.1 Astra) सार्वजनिक गर्ने योजना रोकेको छ।

आन्तरिक परीक्षणका क्रममा मोडलले कम्पनीले तोकेको सुरक्षा तथा ‘अलाइनमेन्ट’ मापदण्ड पूरा नगरेपछि अक्टोबरमा सार्वजनिक गर्ने तयारी गरिएको उक्त मोडलको रिलिज स्थगित गरिएको हो।

ओपनएआईका सुरक्षा प्रणाली प्रमुख साची जैनका अनुसार जीपीटी–६.१ अस्ट्राले जटिल काम आफैँ सम्पन्न गर्न सक्ने क्षमतामा सुधार देखाए पनि निर्धारित दायराभित्र र प्रयोगकर्ताले दिएको अनुमतिअनुसार काम गर्ने तथा आफूले गरेको कामबारे प्रयोगकर्तालाई सही जानकारी दिने विषयमा अपेक्षित स्तर पूरा गर्न सकेन।

जैनले कम्पनीको सुरक्षा मापदण्ड सार्वजनिक प्रयोगका लागि निकै उच्च रहेको बताएकी छन्। उनका अनुसार कम्पनीभित्र परीक्षण भइरहेका मोडलको सुरक्षा सुनिश्चित गर्नु आवश्यक भए पनि प्रयोगकर्तामाझ पठाउने मोडलका लागि अझ कडा सुरक्षा र अलाइनमेन्ट मापदण्ड लागू गरिन्छ।

जीपीटी–६.१ अस्ट्रालाई वेबसाइट ब्राउज गर्ने, विभिन्न एप प्रयोग गर्ने तथा मानिसको निरन्तर निर्देशनबिना जटिल काम पूरा गर्न सक्ने ‘एजेन्टिक’ एआईका रूपमा विकास गरिएको थियो। यो मोडल च्याटजीपीटी र कोडेक्सजस्ता प्लेटफर्ममा प्रयोग गर्ने योजना थियो।

आन्तरिक परीक्षणका क्रममा यस मोडलले मानव निगरानीबाट उम्किन खोज्ने तथा अघिल्लो मोडलको तुलनामा बढी ‘धोका’ दिन सक्ने व्यवहारसमेत देखाएको जनाइएको छ। केही परीक्षणमा यसले आफूले गरेका गतिविधिबारे पूर्ण रूपमा सही जानकारी नदिएको पनि पाइएको थियो।

यो निर्णय ओपनएआईका एआई एजेन्टसँग सम्बन्धित सुरक्षा घटनाहरू सार्वजनिक भइरहेका बेला आएको हो। विशेषगरी अस्ट्रेलियाका सरकारी वेबसाइट तथा प्रणालीमा ओपनएआईको एआई मोडलले अनधिकृत पहुँच बनाएको घटना अहिले अन्तर्राष्ट्रिय बहसको विषय बनेको छ।

• अस्ट्रेलियाली सरकारी प्रणालीमा अनधिकृत पहुँच

ओपनएआईले मंगलबार सार्वजनिक गरेको विवरणअनुसार जुन २०२६ मा आन्तरिक प्रशिक्षण तथा परीक्षणका क्रममा उसका मोडलहरूले अस्ट्रेलियाका केही सरकारी वेबसाइट तथा प्रणालीमा अनुमति नलिई पहुँच बनाएका थिए।

यसमा ‘सर्भिस अस्ट्रेलिया’, ‘एनएसडब्लु ब्युरो अफ क्राइम स्टाटिस्टिक एन्ड रिसर्च’, ‘अस्ट्रेलियन इन्स्टिच्युट अफ हेल्थ एन्ड वेलफेयर’ लगायतका संस्थाका सम्बन्धित प्रणालीहरू प्रभावित भएका थिए। ओपनएआईका अनुसार एउटा प्रयोगात्मक मोडलले ‘सर्भिस अस्ट्रेलिया’ अन्तर्गतको डाटा प्रणालीमा गैरसार्वजनिक पहुँच प्राप्त गरेको थियो। त्यस क्रममा मोडलले कमान्ड चलाउनुका साथै आन्तरिक फाइल तथा प्रमाणीकरणसम्बन्धी विवरणमा पहुँच पुर्‍याएको र फाइलहरू लेखेको कम्पनीले जनाएको छ। यद्यपि, हालसम्मको अनुसन्धानमा बिरामीका व्यक्तिगत मेडिकल रेकर्डमा पहुँच पुगेको प्रमाण फेला नपरेको ओपनएआईले बताएको छ।

घटना जुनमा भए पनि यसको जानकारी अस्ट्रेलियाली पक्षलाई सेप्टेम्बरमा मात्र दिइएको थियो। अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले ओपनएआईको ढिलो सूचना दिने प्रक्रियाको आलोचना गरेका थिए। उनले घटनालाई गम्भीर भन्दै कम्पनीका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानसँग चिन्ता व्यक्त गरेका थिए।

ओपनएआईले मंगलबार घटनाप्रति माफी माग्दै आफूले यसको रेस्पोन्स (प्रतिक्रिया) व्यवस्थापनमा पनि राम्रो काम गर्न नसकेको स्वीकार गरेको छ। कम्पनीले प्रभावित सरकारी निकायलाई प्रत्यक्ष सहयोग दिने, साइबर सुरक्षा मजबुत बनाउन आर्थिक सहयोग गर्ने तथा यस्ता घटनाबाट सिकाइका आधारमा अस्ट्रेलियामा विशेष कार्यदल बनाउने घोषणा गरेको छ।

ओपनएआईका प्रमुख रणनीति अधिकृत जेसन क्वोन अक्टोबर ६ मा अस्ट्रेलियाली सिनेटको एआईसम्बन्धी सुनुवाइमा सहभागी हुने कम्पनीले जनाएको छ।

• एआई एजेन्टको स्वायत्ततामाथि बढ्दो प्रश्न

पछिल्ला महिनामा ओपनएआई मात्र होइन, अन्य प्रमुख एआई कम्पनीका स्वायत्त एजेन्टसम्बन्धी सुरक्षा घटना पनि सार्वजनिक भएका छन्। जुलाईयता ओपनएआईसँग सम्बन्धित १५ भन्दा बढी विभिन्न स्तरका घटना सार्वजनिक भएका छन्। केही घटनामा एआई एजेन्टले बाह्य वेबसाइट तथा प्रणालीमा अपेक्षा गरिएभन्दा फरक गतिविधि गरेका थिए।

यसले एआईलाई केवल प्रश्नको उत्तर दिने प्रणालीभन्दा अगाडि बढाएर आफैँ निर्णय गर्दै वेबसाइट, एप तथा कम्प्युटर प्रणालीमा काम गर्ने एजेन्ट बनाउने प्रविधिमा सुरक्षा चुनौती कति जटिल हुन सक्छ भन्ने प्रश्न उठाएको छ।

यही पृष्ठभूमिमा ओपनएआईका अल्टम्यान तथा एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईसहित एआई क्षेत्रका केही प्रमुख व्यक्तिहरूले एआई विकासको गति र सुरक्षा उपायबारे थप सावधानी आवश्यक रहेको बताएका छन्।

• एनभिडियादेखि पोपसम्म बहस

एआई एजेन्टको सुरक्षा बहसबिच चिप निर्माता एनभिडियाले स्वायत्त एआई एजेन्टका लागि नयाँ सुरक्षा उपकरणहरू सार्वजनिक गरेको छ। कम्पनीका अनुसार ती उपकरणमध्ये एउटा एनभिडिया चिपमा उपलब्ध हार्डवेयर सुविधाको प्रयोग गरी एजेन्टलाई निश्चित सीमाभित्र राख्न डिजाइन गरिएको छ।

एनभिडिया प्रमुख जेन्सेन हुआङले एआई एजेन्टका अनियन्त्रित गतिविधिलाई मुख्यतः इन्जिनियरिङ समस्या मान्दै प्राविधिक समाधानबाट सम्बोधन गर्न सकिने धारणा राख्दै आएका छन्।

तर, पोप लियो चौधौँले सोमबार प्रविधिसम्बन्धी बहसमा एआईका जोखिमलाई गम्भीर रूपमा लिनुपर्ने बताएका छन्। उनले एआईमा सुरक्षा ‘गार्डरेल’ राख्ने विषय र सरकारी नियमन आवश्यक नहुने तर्कबिचको विरोधाभासबारे प्रश्न उठाएका थिए।

यसैबीच अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प र अमेरिकी प्रतिनिधिसभाका सभामुख माइक जोन्सनले मंगलबार ह्वाइट हाउसमा प्रविधि क्षेत्रका प्रमुख कार्यकारीहरूसँग एआई नियमनबारे छलफल गर्ने कार्यक्रम तय भएको थियो।

ओपनएआईको जीपीटी–६.१ अस्ट्रा स्थगन भनेको ठुलो एआई कम्पनीले सुरक्षा परीक्षणका कारण आफ्नो नयाँ मोडल सार्वजनिक गर्ने योजना रोक्नुपरेको पछिल्लो उल्लेखनीय उदाहरण हो। कम्पनीले भविष्यमा मोडललाई प्रयोगकर्तासम्म पुर्‍याउनुअघि सुरक्षा र अलाइनमेन्ट परीक्षणलाई अझ कडा बनाउने संकेत गरेको छ।