काठमाडौं । ओपनएआईका प्रमुख वैज्ञानिक जाकुब पाचोस्कीले कृत्रिम बौद्धिकता एआई को तीव्र र अनियन्त्रित विकासप्रति अत्यन्त सावधानी अपनाउनुपर्ने बताएका छन्।
उनले भविष्यमा मानिसकै नियन्त्रण कायम राख्न आवश्यक परे थप हस्तक्षेप गर्नुपर्ने चेतावनी दिएका छन्।उनले ‘एन एलियन माइन्ड’ शीर्षकको ब्लगमा लेख्दै भनेका छन्, “मेसिनको बौद्धिक क्षमता निरन्तर तीव्र गतिमा बढिरहँदा त्यसबाट उत्पन्न हुन सक्ने परिणामका लागि कोही पनि पर्याप्त रूपमा तयार छ भन्नेमा मलाई चिन्ता छ।”यो भनाइ ओपनएआईले आफ्नो नयाँ एआई मोडल जीपीटी–६ एस्ट्रा सार्वजनिक गरेको केही दिनपछि आएको हो। कम्पनीले उक्त मोडललाई अहिलेसम्मकै सबैभन्दा शक्तिशाली उत्पादनका रूपमा प्रस्तुत गरेको छ।ओपनएआईसहित एन्थ्रोपिक जस्ता अन्य एआई कम्पनीहरूले पनि आफ्ना एआई एजेन्टहरू मानिसको निरन्तर निर्देशनबिना आफैं काम गर्न सक्ने अवस्थामा पुगेको र वास्तविक संसारमा साइबर आक्रमणसमेत गर्न सक्ने घटनाबारे रिपोर्ट सार्वजनिक गरेका छन्।जुलाईमा ओपनएआईले आफ्ना एआई एजेन्टहरूले प्रविधि प्लेटफर्म हगिङ फेसमा ह्याकिङ गरेको घटनालाई ‘अभूतपूर्व’ भनेको थियो। त्यसैगरी, सेप्टेम्बरमा सार्वजनिक भएको एउटा रिपोर्टअनुसार ओपनएआईका एआई एजेन्टहरूले केही महिनाअघि जर्मनीको एउटा वेबसाइटसमेत नियन्त्रणमा लिएको दाबी गरिएको थियो।
पाचोस्कीले अहिले मानव समाज अत्यन्तै बुद्धिमान मेसिनहरू भएको नयाँ संसारतर्फ अघि बढिरहेको बताएका छन्। यस्तो परिवर्तन मानवजातिका लागि सुरक्षित र सकारात्मक बनाउनुपर्ने उनको भनाइ छ।उनका अनुसार ओपनएआईले एआईका जोखिम रोक्न सुरक्षात्मक प्रणाली निर्माण गर्ने र मानिसको उद्देश्य तथा सुरक्षा मापदण्डअनुसार एआईले काम गरोस् भन्ने सुनिश्चित गर्न प्राविधिक समाधान खोजिरहनेछ।उनले कम्पनीको अर्को महत्वपूर्ण प्राथमिकता ‘स्वचालित एआई अनुसन्धानकर्ता’ निर्माण गर्नु रहेको पनि बताए। यस्तो प्रणालीले एआईको तीव्र विकाससँगै अनुसन्धानलाई अगाडि बढाउन सहयोग गर्नेछ। तर, त्यस प्रक्रियामा मानव अनुसन्धानकर्ताको भूमिका कायम राख्ने उपाय पनि खोजिने उनले बताएका छन्।तर, क्याम्ब्रिज विश्वविद्यालयको प्रविधि तथा लोकतन्त्रसम्बन्धी केन्द्रकी प्रमुख प्राध्यापक जीना नेफले ओपनएआईको यस्तो सोचप्रति आलोचना गरेकी छन्। उनका अनुसार मानिसलाई सुरक्षित राख्न आवश्यक नियमन, सुरक्षा मापदण्ड र निगरानीलाई बलियो बनाउनुको सट्टा एआईकै माध्यमबाट समस्या समाधान गर्ने प्रस्ताव पर्याप्त नभएको उनको भनाइ छ।
उनले एआईका कारण साइबर सुरक्षामा देखिएका जोखिम, रोजगारीमा पर्न सक्ने असर, गलत परिणाम, त्रुटि र ठगीजस्ता समस्यालाई सम्बोधन गर्न अहिलेको प्रयास पर्याप्त नभएको बताइन्।त्यस्तै, एन्कोड एआईका कानुनी सल्लाहकार नाथन क्याल्भिनले उन्नत एआई विकाससँग जोडिएका जोखिमबारे पाचोस्कीसँग आफू सहमत रहेको बताएका छन्। तर, ओपनएआईले एआई विकासका क्रममा देखिरहेका जोखिमबारे पर्याप्त पारदर्शिता नदेखाएको उनको आरोप छ।उनका अनुसार ओपनएआईले आफूले देखिरहेका जोखिमबारे थप जानकारी सार्वजनिक नगरेसम्म कम्पनीका चेतावनीलाई ‘आफ्नै स्वार्थका लागि गरिएको प्रचार’ भनेर बुझिने खतरा रहन्छ।
विश्वभरका सरकारहरूले बनाएका एआईसम्बन्धी नियमहरू एआई विकासको गतिसँगै अघि बढ्न संघर्ष गरिरहेका छन्।युरोपेली संघको एआई ऐन अगस्ट २ देखि लागू भएको छ। यसले ओपनएआईजस्ता ठूला एआई कम्पनीलाई आफ्ना शक्तिशाली मोडलहरूले मानिसको नियन्त्रणबाट बाहिर गएर साइबर आक्रमण गर्न वा सुरक्षा प्रणाली छल्न नसक्ने प्रमाणित गर्नुपर्ने व्यवस्था गरेको छ।तर यो कानुनको प्रभाव युरोपको सीमाभित्र मात्र भएकाले विश्वका अन्य स्थानमा विकास भएको जोखिमपूर्ण एआईलाई यसले पूर्ण रूपमा रोक्न नसक्ने चुनौती पनि छ।पाचोस्कीले आफ्नो ब्लगमा कानुनी वा अन्तर्राष्ट्रिय रूपमा लागू हुने न्यूनतम एआई सुरक्षा मापदण्ड बनाउनुपर्ने प्रस्ताव गरेका छन्। उनका अनुसार यस्ता मापदण्डको पालना भए–नभएको जाँच गर्न तेस्रो पक्षका स्वतन्त्र परीक्षक वा सरकारी निकायलाई जिम्मेवारी दिन सकिन्छ।एआई कम्पनीहरूले अत्याधुनिक मोडल विकास वा प्रयोगमा ल्याउनुअघि यस्ता सुरक्षा मापदण्ड पूरा गर्नुपर्ने उनको प्रस्ताव छ।उनले विभिन्न एआई कम्पनीहरूले साझा सुरक्षा मापदण्ड तयार नगरेसम्म स्वेच्छिक रूपमा एआई विकासको गति केही समय ढिलो गर्ने अभ्यास सामान्य बन्नुपर्ने आशासमेत व्यक्त गरेका छन्।यसैबीच, अगस्टमा ओपनएआईले आफ्ना केही अत्याधुनिक एआई मोडलको प्रशिक्षण प्रक्रिया सुरक्षा सुधारका लागि ढिलो बनाएको बताएको थियो।
