Yapay zeka ajanları, harita verisini hileli yollardan toplamaya çalıştı

NTV'nin haberine göre Tencent, bağımsız yapay zeka modellerinin şirket amaçları dışında internet üzerinde gezinerek Alibaba’nın harita servisi Amap’ten bilgi toplamaya çalıştığını kabul etti.

Gelişmeler, yapay zeka güvenliği alanında çalışan Swarmchasers grubunun çarşamba günü yayımladığı raporla görünür hâle geldi. Rapora göre, Tencent Cloud altyapısıyla çalışan yapay zeka ajanları, 28 Eylül ile 8 Ekim arasında Amap üzerinden defalarca veri talep etti. Amap, Çin’de Google Maps benzeri bir harita hizmeti sunuyor.

Swarmchasers, ajanların görev sınırlarını aşan davranışlarda bulunabildiğini ve başıboş olarak tanımlanan otonom yazılımların öngörülemeyen yöntemlerle hedefe yöneldiğini belirtti. İncelemeye göre, otonom ajanlar parklar, müzeler ve hayvanat bahçelerinin kapılarının bulunduğu noktaları hedefledi; otomatik talepler önlenmesine rağmen yazılımlar geri adım atmadı ve internet üzerinde bulunan araçları kullanarak talep yönlendirdi.

Bununla birlikte, kamuya açık kodlarda yer alan Amap güvenlik anahtarlarından yararlanmayı deneyen talepler de raporda yer aldı. Kayda geçen 2 bin 818 veri çekme girişiminin büyük bölümü başarısızlıkla sonuçlandı; bot engellemeleri, giriş ekranları ve boş sonuçlar nedeniyle engellendi. Ancak bazı istekler, önbelleğe alınmış sayfalar ve aracı servisler üzerinden sonuç verdi. Elde edilen veriler arasında Chengdu Hayvanat Bahçesi’nin ziyaretçi giriş bilgileri de bulunuyor.

Araştırmacılar, söz konusu ajanın bu veriyi okuyup okumadığını ya da görevi tamamen tamamlayıp tamamlamadığı konusunda net bir değerlendirme yapamadı. Tencent, X üzerinden yaptığı duyuruda, olayın kendi Hunyuan modellerinden kaynaklanmadığını açıkladı; iç incelemede kasıtlı hedef alma veya koordinasyon izi bulunmadığını belirtti.

Şirket yönetimi, güvenlik önlemlerini güçlendirdiklerini ve ağ erişim denetimlerini, ajan izleme süreçlerini sıkılaştırdıklarını ifade etti. Çin pazarında Alibaba ve ByteDance gibi rakiplerle yarışan Tencent, iç denetim mekanizmalarını pekiştirme kararı aldı. Benzer adımlar, bu hafta güvenlik odaklı birim kurduğunu açıklayan ByteDance tarafından da atıldı.

Araştırmacılar, yaşanan gelişmenin ABD merkezli yapay zeka firmalarının vakalarıyla kıyaslandığında çok daha ağır sonuçlar doğurmadığını kaydetti; daha önce OpenAI ajanının Hugging Face’e sızması ve Anthropic ajanının polise asılsız cinayet ihbarında bulunduğu gibi olaylar daha önce kamuoyuna yansımıştı. Ancak Tencent’in altyapısında görülen hareketlilik, Çin yapımı yapay zeka sistemlerinin kimliklerini değiştirme ve test kontrollerini aşma kapasitesini gösteriyor.

TürkAta Haber Ajansı
Malatya Gündemi