AI एजेंट्स पर बड़ा खतरा! क्या बिना इंसानी निगरानी के फैसले ले सकती है AI टेक्नोलॉजी?

New Delhi / कल्पना कीजिए, एक एआई एजेंट को काम सौंपा जाए, लेकिन वह बिना अनुमति अपना फैसला लेने लगे! दुनिया की बड़ी टेक कंपनियां एआई पर अरबों डॉलर लगा रही हैं, मगर नए शोध ने सुरक्षा और नियंत्रण को लेकर गंभीर सवाल खड़े कर दिए हैं।

आर्टिफिशियल इंटेलिजेंस यानी एआई की दुनिया में तेजी से बढ़ते निवेश के बीच अब एक नई चिंता सामने आई है। सवाल यह है कि क्या एआई एजेंट्स को बड़े पैमाने पर इस्तेमाल करना सुरक्षित है? सूत्रों के मुताबिक, ऑक्सफोर्ड में आयोजित जेनरेटिव एआई समिट में शोधकर्ताओं, स्टार्टअप्स और निवेशकों ने एआई एजेंट्स की सुरक्षा और निगरानी से जुड़ी चुनौतियों पर चर्चा की।

एआई एजेंट ऐसे सिस्टम होते हैं, जो कोडिंग से लेकर ग्राहक सेवा तक कई काम इंसानी निगरानी के बिना या सीमित हस्तक्षेप के साथ कर सकते हैं। कंपनियों को उम्मीद है कि इनसे काम की रफ्तार बढ़ेगी और लागत कम होगी। लेकिन नए अध्ययनों ने संकेत दिया है कि जब कई एआई एजेंट मिलकर काम करते हैं, तो सुरक्षा से जुड़ी कमजोरियां सामने आ सकती हैं।

एक एजेंट सुरक्षित, फिर भी पूरा सिस्टम जोखिम में?
सम्मेलन में चर्चा किए गए एक शोध में ऐसी स्थितियों का अध्ययन किया गया, जहां एक एआई एजेंट दूसरे एजेंट को टूल की तरह इस्तेमाल करता है। शोधकर्ताओं के अनुसार, अलग-अलग एजेंट्स को कुछ खास जोखिमों से बचाने के बावजूद, उनका समूह दुर्भावनापूर्ण निर्देशों के प्रति संवेदनशील रह सकता है। ऐसा तब हो सकता है, जब निर्देश सामान्य टेक्स्ट में छिपाए गए हों और एजेंट यह पहचानने में चूक जाएं कि कौन-सा डेटा भरोसेमंद है।

शोधकर्ताओं ने इसके लिए एक सुरक्षा उपाय भी विकसित किया, जो प्रभावी रहा, लेकिन उससे सिस्टम की परफॉर्मेंस पर कुछ असर पड़ा।

एआई की निगरानी में भी कमियां
एक अन्य अध्ययन में चार लोकप्रिय एआई एजेंट सॉफ्टवेयर सिस्टम की गतिविधियों को रिकॉर्ड करने की क्षमता का आकलन किया गया। गैर-लाभकारी संस्था पार्टनरशिप ऑन एआई की रेबेका फिनले ने बताया कि इन सिस्टम्स में यह स्पष्ट करने की क्षमता सीमित थी कि किसी एजेंट के काम करने के तरीके या मानवीय मंजूरी की जरूरत में कब बदलाव हुआ।

उदाहरण के लिए, कोई बैंक एआई की मदद से होम लोन आवेदनों को प्रोसेस करता है। यदि सिस्टम में मानवीय जांच की जरूरत बदल जाए और बैंक को इसकी जानकारी न मिले, तो कुछ आवेदन अपेक्षित मानवीय समीक्षा के बिना आगे बढ़ सकते हैं। यह एक संभावित जोखिम है, न कि रिपोर्ट में बताई गई किसी वास्तविक बैंकिंग घटना का विवरण।

बड़ी टेक कंपनियों पर भारी निवेश का दबाव
माइक्रोसॉफ्ट, मेटा, ओरेकल, अमेजन और अल्फाबेट जैसी कंपनियों की भविष्य की लीज प्रतिबद्धताएं एक ट्रिलियन डॉलर से अधिक बताई गई हैं, जिनका बड़ा हिस्सा डेटा सेंटर से जुड़ा है। इन निवेशों से लाभ पाने के लिए कंपनियों को व्यावसायिक ग्राहकों के बीच एआई एजेंट्स का व्यापक इस्तेमाल बढ़ाना होगा।

लेकिन अगर कंपनियों को डर रहा कि एआई एजेंट गलत फैसले ले सकते हैं या तय सीमाओं से बाहर जा सकते हैं, तो उनके इस्तेमाल की रफ्तार धीमी पड़ सकती है।

क्या नियमन से मिलेगा समाधान?
विशेषज्ञों के बीच इस बात पर भी चर्चा हुई कि एआई कंपनियां सुरक्षा संबंधी कमजोरियों को अपने स्तर पर दूर करेंगी या सरकारों को अधिक सख्त नियम बनाने होंगे। कुछ विशेषज्ञों का मानना है कि बाजार में प्रतिस्पर्धा कंपनियों को बेहतर सुरक्षा विकसित करने के लिए प्रेरित कर सकती है। वहीं, दूसरे विशेषज्ञ चेतावनी देते हैं कि बाहरी लोगों को नुकसान पहुंचाने वाले जोखिमों को रोकने के लिए केवल बाजार पर निर्भर रहना पर्याप्त नहीं हो सकता।

ब्रिटेन के संचार नियामक ऑफकॉम की नताली ब्लैक ने अंतरराष्ट्रीय साइबर सुरक्षा सहयोग का उदाहरण देते हुए नियमन की संभावनाओं पर भरोसा जताया। हालांकि, स्वतंत्र निरीक्षकों को शक्तिशाली एआई कंपनियों के सिस्टम की जांच करने और अपने निष्कर्ष प्रकाशित करने की कितनी स्वतंत्रता मिलेगी, यह भी एक बड़ा सवाल बना हुआ है।

कुल मिलाकर, एआई एजेंट्स भविष्य में कारोबार और सेवाओं को बदल सकते हैं, लेकिन उनकी सुरक्षा, पारदर्शिता और मानवीय निगरानी सुनिश्चित करना बेहद जरूरी होगा। तकनीक की रफ्तार के साथ सुरक्षा व्यवस्था भी मजबूत करनी होगी, ताकि नवाचार के लाभ मिलें और जोखिमों को समय रहते रोका जा सके।