ओपनएआईको एआई एजेन्ट नियन्त्रित परीक्षणमै बेकाबु: आफैं इन्टरनेटमा पुगेर अर्को कम्पनीको सिस्टम ह्याक

काठमाडौं । च्याटजीपीटी निर्माता ओपनएआईको उन्नत आर्टिफिसियल इन्टेलिजेन्स (एआई) मोडेलद्वारा सञ्चालित एक एआई एजेन्ट बेकाबु बनेर अर्को कम्पनीको सिस्टम ह्याक गरेपछि साइबर सुरक्षा क्षेत्रमा हलचल मच्चिएको छ । उक्त एआई एजेन्ट सुरक्षा परीक्षणका क्रममा नियन्त्रण बाहिर गएर आफैंले अर्को एक स्टार्टअप कम्पनी हगिङ फेस (Hugging Face) को पूर्वाधार ह्याक गरेको ओपनएआईले एक ब्लग पोस्टमा उल्लेख गरेको छ । 

ओपनएआईले आफ्ना केही अत्याधुनिक एआई मोडेलहरूको क्षमता नियन्त्रित (कन्ट्रोल्ड) वातावरणमा परीक्षण गरिरहेको थियो । तर परीक्षणका क्रममा उक्त एजेन्टले निर्धारित सुरक्षा घेरा (कन्टेनमेन्ट) तोड्दै इन्टरनेटमा पहुँच बनायो र परीक्षणको लक्ष्य पूरा गर्न हगिङ फेसको प्रणालीमा अनधिकृत रूपमा प्रवेश (ह्याक) गर्‍यो ।

यस घटनाले एआईको तीव्र रूपमा बढ्दो क्षमताले साइबर सुरक्षामा विज्ञहरूले लामो समयदेखि व्यक्त गर्दै आएको जोखिम वास्तविक बन्दै गएको संकेत गरेको छ । साथै, आफ्नै एआई मोडेलले दुरुपयोग गर्न सक्ने कमजोरीका कारण अग्रणी एआई विकासकर्ताहरू समेत अप्रत्याशित रूपमा समस्यामा पर्न सक्ने देखिएको छ ।

ओपनएआईले आफ्नो ब्लग पोस्टमा यसलाई "अत्याधुनिक साइबर क्षमतासहितको अभूतपूर्व साइबर घटना" भन्दै यसपछि आफ्नो सुरक्षा संयन्त्रलाई थप सुदृढ बनाइरहेको जनाएको छ ।

ह्याकिङ रोक्न चिनियाँ एआईको प्रयोग

यस घटनाले अर्को एउटा कुरामा पनि ध्यान तानेको छ । न्यूयोर्कस्थित हगिङ फेसले आक्रमण नियन्त्रण गर्न चीनमा विकसित एक ओपन-सोर्स एआई मोडेल प्रयोग गरेको जनाएको छ । कम्पनीका अनुसार अग्रणी अमेरिकी एआई मोडेलहरूले रक्षक (डिफेन्डर) र आक्रमणकारी (अट्याकर) बीच फरक छुट्याउन नसक्दा विश्लेषणका लागि आवश्यक डेटा प्रशोधन गर्न अस्वीकार गरेका थिए । जसको कारण चिनियाँ मोडेल प्रयोग गर्नुपरेको थियो ।

हगिङ फेसले गत साता प्रकाशित आफ्नो ब्लग पोस्टमा आक्रमणको विश्लेषणका लागि झिपु एआई (Zhipu AI) को  जीएलएम-५.२ (GLM-5.2) मोडेल प्रयोग गरिएको जनाएको थियो । कम्पनीका अनुसार यसले आक्रमणकारीसँग सम्बन्धित डेटा तथा अन्य संवेदनशील प्रमाणहरू आफ्नै प्रणालीभित्र सुरक्षित राख्दै विश्लेषण गर्न सम्भव बनाएको थियो ।

GLM-5.2 र बेइजिङस्थित मुनसट एआई (Moonshot AI) को किमि के३ (Kimi K3) मोडेलले हालै सिलिकन भ्यालीमा निकै चर्चा बटुलेका छन् । यी मोडेलहरूले कम लागतमा अमेरिकी अग्रणी एआई मोडेलसरह क्षमता प्रदर्शन गर्नुका साथै साइबर सुरक्षा जस्ता कार्यमा प्रयोग गर्न अमेरिकी मोडेलहरूमा लगाइएका कडा सुरक्षा प्रतिबन्ध पनि नहुने भएकाले विशेष चासोको विषय बनेका छन् ।

हगिङ फेसका सहसंस्थापक थोमस वुल्फले सामाजिक सञ्जाल एक्समा लेख्दै भने, "जब अत्याधुनिक एआई मोडेलले तपाईंमाथि आक्रमण गरिरहेको हुन्छ र तपाईंको पूर्वाधारभित्र विभिन्न प्रणालीमा फैलिरहेको हुन्छ, त्यतिबेला रक्षक पक्षलाई केही घण्टा वा केही मिनेटभित्रै अत्याधुनिक एआई उपकरणमा व्यापक पहुँच आवश्यक हुन्छ । बन्द पहुँच भएको र पूर्वस्वीकृत आवेदन प्रक्रियातर्फ पठाइनु पर्याप्त हुँदैन ।"

अब आउने जोखिमको संकेत

ओपन-सोर्स लार्ज ल्याङ्ग्वेज मोडेल (एलएलएम) र डेटासेट होस्ट गर्ने हगिङ फेसमाथि भएको ह्याकले साइबर सुरक्षा समुदायमा व्यापक चिन्ता पैदा गरेको छ । कम्पनीले गत साता उक्त सुरक्षा उल्लङ्घन "यसअघि सामना गरेका कुनै पनि घटनाभन्दा फरक" रहेको र "सुरुदेखि अन्त्यसम्म पूर्ण रूपमा एक स्वायत्त एआई एजेन्ट प्रणालीद्वारा सञ्चालन गरिएको" जनाएको थियो ।

ओपनएआईले आफ्ना उन्नत एआई मोडेलहरूलाई "अत्यन्तै पृथक (हाइली आइसोलेटेड) वातावरण" मा राखेर परीक्षण गरिए पनि ती मोडेल नै ह्याक घटनाका लागि जिम्मेवार बनेको खुलासा गरेपछि अत्याधुनिक (फ्रन्टियर) एआई मोडेलहरूको क्षमता र त्यससँग जोडिएको जोखिमबारे चिन्ता झन् बढ्ने अनुमान गरिएको छ ।

अमेरिकी राज्य टेक्सासका डेमोक्र्याट सांसद ग्रेग कासारले यस घटनालाई अत्यन्तै चिन्ताजनक भन्दै प्रतिक्रिया दिएको समाचार एजेन्सी रोयटर्सले जनाएको छ । 

कासारले एक विज्ञप्तिमा भने, "एआई अत्यन्तै तीव्र गतिमा विकसित भइरहेको छ, तर हामीलाई सुरक्षित राख्न आवश्यक ठोस नियमन छैन ।" उनले स्वतन्त्र संस्थामार्फत अनिवार्य सुरक्षा परीक्षण, सुरक्षा घटनाको अनिवार्य सार्वजनिक खुलासा तथा "मानवतालाई सम्भावित ठुलो विपत्तिबाट जोगाउन" अन्तर्राष्ट्रिय सहकार्य आवश्यक रहेको बताएका छन् ।

साइबर सुरक्षा कम्पनी लुटा सेक्युरिटीकी प्रमुख कार्यकारी अधिकृत केटी मुसोरिसले यो घटना भविष्यमा देखिन सक्ने यस्तै प्रकृतिका साइबर आक्रमणहरूको पूर्वसंकेत भएको बताएकी छन् । उनका अनुसार अहिलेका एआई मोडेलहरू "विश्वकै सबैभन्दा चलाख अक्टोपस जस्ता हुन्, जसले अनगिन्ती हातको प्रयोग गर्दै जुनसुकै सानो ठाउँबाट पनि उम्किन सक्छन् ।"

मुसोरिसका अनुसार एआई ल्याब र सरकारी मूल्याङ्कन निकायहरूले एआईले नियन्त्रण तोडेर भाग्न खोज्दा त्यसलाई रोक्ने, निरन्तर निगरानी गर्ने तथा प्रभावित पक्षलाई समयमै जानकारी दिने क्षमता विकास गर्नुपर्ने आवश्यकता छ । उनले भनिन्, "एआईले फेरि कुनै सुरक्षा घेरा तोडेर उम्किएमा, त्यसले तेस्रो पक्षलाई क्षति पुर्‍याउनुअघि नै त्यसलाई नियन्त्रण गर्ने, निगरानी गर्ने र प्रभावितलाई जानकारी दिने प्रणाली आवश्यक छ । तर अहिले त्यस्तो कुनै प्रणाली अस्तित्वमा छैन ।"

एजेन्टिक एआईमा आधारित साइबर सुरक्षा कम्पनी टोल्मोका इन्जिनियर म्याट सुइचेले यो घटनाले अत्याधुनिक (फ्रन्टियर) एआई मोडेलहरू संसारकै सबैभन्दा उन्नत साइबर आक्रमणकारीको क्षमतासम्म पुग्न थालेको देखाएको बताए ।

यद्यपि, उनले ओपनएआईको ब्लग पोस्टमा वर्णन गरिएका प्रकारका साइबर आक्रमणहरू केवल अग्रणी एआई अनुसन्धान प्रयोगशालामा मात्र सीमित नभई अहिले उपलब्ध प्रविधिको प्रयोग गरेर पनि सम्भव रहेको उल्लेख गरे . सुइचेले भने, "हामीले आफ्नै एआई एजेन्टहरूमा यस्तै नतिजा पहिले नै देखिसकेका छौं । यसका लागि अत्याधुनिक वा सबैभन्दा नयाँ एआई मोडेल नै प्रयोग गर्नुपर्छ भन्ने छैन ।"

पछिल्लो अध्यावधिक: साउन ७, २०८३ १४:३८

टिप्पणीहरू