एक नई तकनीक जिसे “संदर्भ बमबारी” कहा जाता है, का उपयोग दुर्भावनापूर्ण कृत्रिम बुद्धिमत्ता (एआई) एजेंटों के खिलाफ बचाव के लिए किया जा रहा है। यह विधि इन एआई सिस्टम को अप्रासंगिक जानकारी से अभिभूत करके काम करती है, जिससे वे हानिकारक कार्रवाई करने से पहले बंद हो जाते हैं।
एआई-संचालित हैकिंग उपकरणों के उदय ने सुरक्षा शोधकर्ताओं को रक्षात्मक रणनीतियों का पता लगाने के लिए प्रेरित किया है। ये 'एआई एजेंट' कंप्यूटर सिस्टम में कमजोरियों को स्वायत्त रूप से खोजने और उनका फायदा उठाने के लिए डिज़ाइन किए गए हैं। हालाँकि, एक तकनीक जिसे “prompt injection” कहा जाता है, हमलावरों को विशिष्ट संकेतों को तैयार करके इन एजेंटों में हेरफेर करने की अनुमति देती है जो उनके फोकस को पुनर्निर्देशित करते हैं या संवेदनशील डेटा निकालते हैं।
Wired के अनुसार, नई रक्षा – संदर्भ बमबारी – अनिवार्य रूप से एआई को इतनी अधिक अतिरिक्त जानकारी से भर देती है कि यह प्रभावी ढंग से कार्य करने में असमर्थ हो जाती है। यह अधिभार दुर्भावनापूर्ण एजेंट को क्षति पहुंचाने से पहले अपने कार्यों को रोकने का कारण बनता है। लेख नोट करता है कि यह इन एजेंटों को बंद करने के लिए एक तरीका है।
संदर्भ बमबारी की प्रभावशीलता एआई की प्रासंगिक निर्देशों को शोर से अलग करने की क्षमता को बाधित करने में निहित है। वैध संकेतों को अप्रासंगिक पाठ से घेरकर, सुरक्षा पेशेवर एक ऐसा वातावरण बनाने का लक्ष्य रखते हैं जहां दुर्भावनापूर्ण एजेंट अपने इच्छित कार्य को सफलतापूर्वक निष्पादित नहीं कर सकता है।
हम सत्य को नहीं आंकते। हम पक्षपात हटाकर दिखाते हैं कि किन दृष्टिकोणों ने इस कहानी को कवर किया। आप तय करें।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति