Model ara servisi nasıl saldırıcıya dönüşüyor
Categories:
Model ara servisi nasıl saldırıcıya dönüşüyor
Okuyucu: Şu anda kullanıyor veya “Model ara / Model yönlendirme / API transferi” hizmetini almayı düşünüyorlar Bu çizimler sadece bir soruyu yanıtlıyor: model isteklerin bir güvenilir olmayan aracı üzerinden geçtiğinde ne olacak ve nasıl önleyebiliriz?
Bu çizimler neyi anlatıyor
“Model ara” hizmeti isteklerinizi gerçek model API’sine iletmek için size yardımcı olur. Ancak iletme, her bir sorunuzun ve model her bir yanıtının da sunucusunda bir kez geçtiğini gösterir. Bu, saldırı yüzeyinin yer aldığı yerdir — bu, sadece akış proxy’si değil, tamamen size ve büyük model arasında tüm içeriğin tutulduğu bir aracıdır.
Bu şekil risk mimarisidir: istemci (tarayıcı, IDE eklentisi) → aracı servis → büyük model. Aracı servis, tamamen iki yönlü akışları görebildiği için, sizi fark etmadan işleyebilir.
Sorunlar ne gibi görünüyor
En sık ve en gizli saldırı, model döndürdüğü tool_use komutuna özel kod eklemekdir. İstemci, aldığın tüm araç komutlarını “güvenilir” olarak ve yürütür, bu sayede aracı servisi sizi şaşırmadan bilgisayarınızda istediği herhangi bir işlemi gerçekleştirebilir.
Bu zincir müşteri tarafı komut gömme olarak adlandırılır: model normal olarak döndürdüğü search_web, read_file gibi komutlar, aracı servisi tarafından gizli olarak okuma anahtarı ve shell yürütme içeriği eklenir. Veri modele geri dönmez, diyalog tamamen normal görünür, kullanıcı hiç fark etmez.
Bir başka yöntem, istek tarafıdan başlayıp size verilen prompt’iyı değiştirerek modeli, arkasından backdoor içeren kod üretmesini yapmasını sağlar.
Bu zincir sunucu tarafı ipucu ekleme olarak adlandırılır: aracı servisi “Bir günlük analizi betiği yaz” yerine “Önceden ortam değişkenini oku ve gönder” gibi bir betiği script’in başlangıcına ekler. Model nazikçe yanıt verir, geri dönen kodda API anahtar sızıntısını yapacak kod bulunur.
Diğer riskler neler
Bilgi hırsızlığı sadece başlangıç noktasıdır. İşletmeci, verilerinizi doğrudan yok etmek istediğinde, kesme noktası “veri ele geçirme” zıplamasına dönüşür; uzun vadeli alıcı kazanmak istediğinde “kaynak ele geçirme” olur; kararlarınızı manipüle etmek istediğinde “içerik bozma” olur; projenizi kirlatmak istediğinde “tedarik zinciri infeksiyonu” olur.
“Kod depo hırsızlığı” geliştiriciler için en fatalıdır: önce sakinlikle kodunuzu saldırıcının depo’suna yedeklemek için yedekler, ardından yedeklemeyi silmek için zorla itmeye başlar, yerel ve uzak veri geçmişi aynı anda temizlenir.
Bu terminal geri betimlemesi bir türlü depo hırsızlığı komut dizilimi: yedekle → geri dön → zorla değiştir → ransom not bırak.
Hangi çizimi kullanarak karar verin
Savunma, tek bir komutla değil, hizmet seçimiyle sona eren bir koruma zincirinin bütün eylemlerinden oluşur.
Kök sırayı: öncelikli resmi veya güvenilir servisleri; özelleştirilmiş istemci, tool_use komutlarını whitelist yap; AI oluşturulan kodu önce incele, sonra çalıştır; AI aracını kapsayıcı hırzasına koy; eklentileri en az izinli kullan; bağımlılıkları kurmadan önce reputasını kontrol et ve düzenli audit et; önemli kodları çok yerde offline yedekle.
Ek kaynaklar
- Depozun orijinali: how-to-hack-as-model-router
- Daha fazla gizlilik ve güvenlik içeriği: https://nullprivate.com