Cloudflare GLM-5.3 Modelinde KV Cache Açığının Detayları ve Çözüm Süreci

Cloudflare’un GLM-5.3 Workers AI modelinde, KV cache yapılandırmasındaki uyumsuzluk ve SGLang adlı açık kaynak çıkarım motorundaki bir hata nedeniyle, kullanıcıların uzun metin isteklerine verilen yanıtlarda başka kullanıcıların verileri karıştı. Bu, 681.280 token sınırını aşan isteklerde gerçekleşti ve toplamda 155 yanıtı etkiledi. Sorun, modelin önbellek havuzunun, modelin desteklediği bağlam uzunluğundan küçük olması ve SGLang motorunun bu durumu hatalı işlemesinden kaynaklandı.

Bir güvenlik araştırmacısı tarafından 8 Eylül 2026’da bildirilen sorun, Cloudflare tarafından hızla doğrulandı ve aynı gün model geçici olarak devre dışı bırakıldı. Sorunun kaynağı kısa sürede belirlendi ve hem yapılandırma hem de SGLang motorunda gerekli düzeltmeler yapıldı. Model, 9 Eylül’de güvenli hale getirilerek tekrar kullanıma açıldı. Bu süreç, Cloudflare’un güvenlik odaklı yaklaşımının ve hızlı müdahale kabiliyetinin önemli bir göstergesi oldu.

GLM-5.3 modeli, önbellek havuzunda 681.280 token kapasitesine sahipken, modelin bağlam uzunluğu 1.048.576 token olarak ayarlanmıştı. Bu uyumsuzluk, uzun isteklerde SGLang motorunun reddetme mekanizmasının hatalı çalışmasına yol açtı. Reddedilen istekler, önbellek sayfalarının tamamını temizlemeden devam etti ve bu da önceki kullanıcıların verilerinin yeni yanıtlara sızmasına neden oldu. Bu hata, dağıtık önbellek yönetimindeki karmaşık senkronizasyon sorunlarından kaynaklandı.

Cloudflare, KV cache havuzunu model bağlam uzunluğuna uygun şekilde genişletti ve SGLang motorunun reddetme yolunu güvenli hale getiren yamaları uyguladı. Ayrıca, bu tür hataların önüne geçmek için önbellek yönetimi, istek reddi ve veri bütünlüğü kontrollerini sıkılaştırdı. SGLang ekibi ile iş birliği yapılarak, benzer sorunların tekrarlanmaması için upstream yamalar geliştirildi ve tüm ilgili modellerde bu güncellemeler zorunlu hale getirildi.

Yapay zeka ve bulut tabanlı modellerin güvenliği, kullanıcı verilerinin gizliliği açısından kritik öneme sahiptir. Cloudflare’un GLM-5.3 modelinde yaşanan KV cache açığı, bu alandaki karmaşık teknik sorunların nasıl kullanıcı verilerine yansıyabileceğini gösterdi. SoftArt okurları için bu gelişme, yapay zeka uygulamalarında güvenlik testlerinin ve yapılandırma doğrulamalarının önemini vurguluyor. Ayrıca, güvenlik açıklarının hızlı tespiti ve çözümü için iş birliği ve şeffaflık gerekliliğini ortaya koyuyor.