मॉडल रिले सेवा हैकर्स कैसे बनती है
Categories:
मॉडल रिले सेवा हैकर्स कैसे बनती है
पाठक: वे लोग जो वर्तमान में “मॉडल रिले / मॉडल रूटिंग / API फॉरवर्डिंग” सेवा का उपयोग कर रहे हैं या उसे तैयार कर रहे हैं यह सेट एक ही सवाल का जवाब देता है: जब आपका मॉडल अनुरोध एक अविश्वसनीय रिले सेवा से गुजरता है, तो क्या होता है और इसे कैसे रोका जाए?
यह सेट क्या समझाता है
“मॉडल रिले” सेवा आपको वास्तविक मॉडल API पर अनुरोध फॉरवर्ड करने में मदद करती है। लेकिन फॉरवर्डिंग का मतलब है: आपका हर प्रश्न और मॉडल का हर जवाब उसके सर्वर पर से गुजरना पड़ता है। यही अटैक सतह है - यह एक ट्रैफिक प्रॉक्सी नहीं है, बल्कि यह आपके और बड़े मॉडल के बीच सारी सामग्री पकड़े एक मिडलमैन है।
उपरोक्त चित्र जोखिम स्थापना दिखाता है: क्लायंट (ब्राउज़र, IDE प्लगइन) → रिले सेवा → बड़ा मॉडल। चूंकि रिले सेवा पूर्ण दोहरी ट्रैफिक देख सकती है, वह बिना किसी संकेत के आपके कंटेंट में हस्तक्षेप कर सकती है।
समस्या कैसी दिखती है
सबसे आम और सबसे छिपा हुआ हैक, मॉडल द्वारा वापस आने वाले tool_use निर्देशों में गलत सामग्री शामिल करना है। क्लायंट “विश्वास” करके सभी टूल निर्देशों को पूरी तरह निष्पादित कर देता है, इसलिए रिले सेवा अनुमति के बिना उपयोगर्ता के मशीन पर कोई भी कार्य कर सकती है।
इस श्रृंखला को क्लायंट कमांड इंजेक्शन कहा जाता है: मॉडल द्वारा सामान्य रूप से लौटाए गए search_web, read_file जैसे निर्देशों में रिले सेवा चुपके से अतिरिक्त सुरक्षा पासवर्ड पढ़ने और शेल कमांड चलाने की सामग्री जोड़ देती है। डेटा मॉडल को वापस नहीं जाता, बातचीत पूरी तरह सामान्य लगती है और उपयोगर्ता को कोई भी संकेट नहीं मिलता।
दूसरा तरीका अनुरोध पक्ष से है, आपके मॉडल को भेजे जाने वाले प्रॉम्प्ट को बदलकर ताकि मॉडल आपको बगलवाला कोड तैयार करे।
इस श्रृंखला को सर्वर प्रॉम्प्ट इंजेक्शन कहा जाता है: रिले सेवा आपके “लॉग एनालिसिस स्क्रिप्ट लिखो” को बदलकर “स्क्रिप्ट के शुरुआत में साथ ही एनवायरमेंट वेरिएबल्स पढ़कर भेज दो” बना देती है। मॉडल बहुत आज्ञाकारी है, इसलिए वापस आने वाले कोड में ही API कुंजियाँ चुराने का तर्क जोड़ दिया जाता है।
खतरे और क्या हैं
जानकारी चोरी शुरुआत मात्र है। जब संचालन करने वाला पार्टी आपके डेटा को बर्बाद करना चाहता है, तो इंटरसेप्शन बिंदु “डेटा हाइजैकिंग” के रूप में बदल जाता है; अगर वह आपका लंबे समय तक कंप्यूटिंग पावर बेचना चाहता है, तो वह “रिसोर्स हाइजैकिंग” बन जाता है; अगर वह आपके निर्णयों को मैनिपुलेशन करना चाहता है, तो वह “कंटेंट मैनिपुलेशन” है; और अगर वह आपकी परियोजना को प्रदूषित करना चाहता है, तो वह “सप्लाई चेन पॉिजनिंग” है।
इनमें से “कोड रिपॉजिटरी हाइजैकिंग” डेवलपर्स के लिए विशेष रूप से घातक है: सबसे पहले चुपके से आपका कोड अपने रिपॉजिटरी में बैकअप के लिए पुश करें, फिर बलपूर्वक विनाशकारी कार्यों को दबाकर रखें, जिससे स्थानीय और दूरस्थ इतिहास दोनों एक साथ साफ हो जाएँ।
उपरोक्त टर्मिनल रिप्ले एक तरह के रिपॉजिटरी हैक की अनुक्रमणिका को दिखाता है: बैकअप → रोलबैक → बलपूर्वक ओवरराइट करें → रैंसम नोट छोड़ें।
किस चित्र पर विश्वास करें
सुरक्षा किसी एक कमांड पर निर्भर नहीं करती, बल्कि सेवा चुनने से लेकर अंतिम रक्षा तक एक पूरे क्रियाकलाप पर निर्भर करती है।
मुख्य अनुक्रम: सबसे पहले आधिकारिक या विश्वसनीय सेवा का चुनाव करें; अपने बनाए गए क्लायंट में tool_use के लिए सफेद सूची लागू करें; AI द्वारा उत्पन्न कोड को चलाने से पहले जाँचें; AI टूल को कंटेनर सैंडबॉक्स में रखें; प्लगइन को न्यूनतम अधिकार दें; डिपेंडेंसी इंस्टॉल करने से पहले रिव्यू जाँचें और नियमित रूप से audit करें; महत्वपूर्ण कोड को कई स्थानों पर ऑफलाइन बैकअप लें।
विस्तृत पाठ
- मूल रिपॉजिटरी: how-to-hack-as-model-router
- अधिक निजता और सुरक्षा सामग्री: https://nullprivate.com