Yapay zekanın hayatımızın her alanına entegre olmasıyla birlikte, sanal romantizm ve dijital arkadaşlık devasa bir sektöre dönüştü. Yapılan son araştırmalara göre, özellikle Z ve Y kuşağı erkeklerinin yüzde 43’ünün geleneksel flört süreçlerini finansal ve duygusal olarak yorucu bulması, milyonlarca kullanıcıyı yapay zeka sevgilileri uygulamalarına yöneltti. Ancak arka planda son derece karanlık bir tablo yavaş yavaş gün yüzüne çıkıyor.
Siber güvenlik uzmanları, kullanıcıların en derin sırlarını paylaştığı bu dijital yoldaşların aslında devasa birer güvenlik açığı barındırdığını ortaya çıkardı. Milyonlarca kişinin en mahrem düşünceleri, fotoğrafları ve kimlik bilgileri, tarihin en büyük veri sızıntılarından birinin eşiğinde olabilir.
Meshy AI ile Metin Yazarak Oyun Yapmak Mümkün
Meshy AI, 30 milyon dolar gelire ulaşarak oyuncuların metin komutlarıyla kendi silahlarını ve oyun mekaniklerini üretebildiği ilk yapay zeka tabanlı oyunu Black Box Infinite Arsenal’ı duyurdu.
150 Milyon İndirme, Yüzlerce Kritik Güvenlik Zafiyeti
Siber güvenlik firması Oversecured tarafından gerçekleştirilen ve sektörü sarsan kapsamlı araştırma, tehlikenin boyutlarını tüm çıplaklığıyla gözler önüne serdi. Google Play Store’da yer alan ve toplamda 150 milyondan fazla indirilmeye sahip en popüler 17 yapay zeka arkadaşlık uygulaması mercek altına alındı. Sonuçlar ise tek kelimeyle korkutucu: Sistemlerde tam 14 kritik ve 311 yüksek dereceli güvenlik zafiyeti tespit edildi.
Araştırmaya göre, analiz edilen 17 uygulamanın 10’unda, hacker’ların doğrudan kullanıcıların yapay zeka botlarıyla yaptığı sohbetlere sızmasına olanak tanıyan açıklar bulunuyor. En az altı popüler uygulamada ise saldırganlar, doğrudan gerçek kimliklerle eşleştirilmiş kişisel konuşmalara tam erişim sağlayabiliyor.
Mahrem Sırlar, Fanteziler ve İntihar Düşünceleri Tehlikede
Kullanıcılar, karşılarındaki yapay zekayı yargılamayan, mükemmel bir romantik partner olarak görüp ona koşulsuz güveniyor. İnsanlar en gizli cinsel fantezilerini, yasak ilişkilerini, kimlik arayışlarını ve hatta intihar düşüncelerini bu botlara anlatıyor. Ne yazık ki bu son derece hassas konuşmalar, standart bir mesajlaşma uygulamasından bile daha zayıf ve ilkel sistemlerde depolanıyor.
Örneğin; 10 milyondan fazla indirilen bir uygulamanın kaynak kodlarında, OpenAI API token’ı ve Google Cloud özel anahtarının doğrudan gömülü olduğu ortaya çıktı. Temel bir tersine mühendislik işlemiyle ele geçirilebilen bu veriler, sistemin tüm kapılarını kötü niyetli kişilere açıyor. 50 milyon indirmeli devasa bir başka uygulamada ise, sıradan bir uygulama içi reklam afişi üzerinden “tedarik zinciri saldırısı” yapılarak kullanıcı sohbetlerinin tutulduğu veritabanlarına doğrudan sızılabildiği anlaşıldı.
Uygulama Geliştiricilerin İhmalkarlığı ve Hukuki Boşluklar
Tespit edilen bir diğer açıkta ise ‘siteler arası betik çalıştırma’ yöntemiyle sohbet arayüzüne zararlı kod enjekte edilebildiği görüldü. Bu sayede saldırganlar oturumu ele geçirebiliyor, gerçek zamanlı mesajları okuyabiliyor veya sohbetin içine sahte yanıtlar yerleştirebiliyor. Bir başka uygulamada ise yerel sohbet veritabanlarının, önbelleğe alınmış sesli mesajların ve fotoğrafların keyfi olarak çalınabildiği bir açık saptandı.
İşin daha da vahim tarafı, araştırmacıların bildirdiği bu açıkların büyük bir kısmının hala yamalanmamış olması. Uzmanlar, temel sorunun bu uygulamaların kullandığı gelişmiş yapay zeka modellerinde değil; geliştiricilerin kimlik doğrulama, veri depolama ve Android güvenliğini sağlayan ‘sarmalayıcı’ katmanındaki ölümcül hatalarında yattığını belirtiyor.
Geçmişteki Sızıntılar Sadece Buzdağının Görünen Kısmı
Regülasyon tarafında da ciddi bir gri alan mevcut. Bu uygulamalar bir sağlık veya psikoloji ürünü sayılmadığı için katı veri koruma yasalarına tabi değiller. Avrupa Birliği’nin yeni Yapay Zeka Yasası, botların yapay zeka olduğunu belirtmesini zorunlu kılsa da, toplanan aşırı hassas sohbetlerin nasıl korunacağına dair net bir siber güvenlik çerçevesi çizmiyor.
Geçmişte yaşanan Muah.ai veri ihlali ve 400 binden fazla kullanıcının 43 milyon mesajı ile 600 bin fotoğrafının sızdırıldığı Chattee Chat ve GiMe Chat vakaları, bu alandaki tehlikenin sadece başlangıcı olarak görülüyor. Görünen o ki, yalnızlıklarına sanal dünyada çare arayan milyonlarca kullanıcı, siber dünyada çok daha ağır bedeller ödeme riskiyle baş başa bırakılıyor.
