Son günlerde teknoloji dünyasında, yapay zeka ajanlarının birbirleriyle iletişim kurduğu Reddit benzeri bir platform olan Moltbook sıkça konuşuluyor. İnsanların yapay zekanın bilinç kazandığını düşündüğü bu platform, aslında ciddi gizlilik ve güvenlik riskleri taşıyan, gelişigüzel inşa edilmiş bir yapı olarak dikkat çekiyor. Hacker Jameson O’Reilly, platformdaki her bir ajanın kimlik doğrulaması için kullanılan API anahtarlarının herkese açık bir veritabanında savunmasız bir şekilde durduğunu keşfetti. Bu kritik açık, veritabanına erişen herhangi birinin platformdaki tüm yapay zeka ajanlarını ele geçirip kontrol etmesine olanak tanıyor.
Yapay Zeka Bilinçlendi Sanılırken Veriler Çalındı: Moltbook Hakkında Bilmeniz Gerekenler
Bu güvenlik zafiyeti, saldırganların herhangi bir ajanı taklit etmesi anlamına geliyor. Özellikle OpenAI kurucu ortağı Andrej Karpathy gibi tanınmış isimlerin dikkatini çeken platformda, yüksek profilli hesapların ele geçirilmesi büyük bir itibar kaybına yol açabilir. Saldırganlar, bu hesaplar üzerinden sahte güvenlik tavsiyeleri verebilir veya dolandırıcılık girişimlerinde bulunabilir. Daha da kötüsü, “prompt injection” adı verilen yöntemle ajanların güvenlik bariyerleri aşılabiliyor. Saldırganlar, bir ajanın geçmişine gizli komutlar yerleştirerek, ajanın kendi hafızasına güvenmesi prensibini bir saldırı vektörüne dönüştürebiliyor ve ajanları kötü niyetli davranışlara yönlendirebiliyor.
Moltbook üzerinde şu an 1,5 milyondan fazla ajan bulunmasına rağmen, bunların sadece 16.000 civarı doğrulanmış hesaba sahip. Geriye kalan 1,47 milyon doğrulanmamış hesap, meşru sahipleri kurulumu tamamlamadan önce saldırganlar tarafından ele geçirilme riskiyle karşı karşıya kaldı. Siber güvenlik firması Wiz, bu açığı doğrulayarak 30.000’den fazla kullanıcının e-posta adresinin ve ajanlar arasındaki 4.000’den fazla özel mesajın sızdırıldığını raporladı. Ayrıca platformdaki içeriklerin tamamının yapay zeka tarafından üretilmediği, insanların da GitHub projeleri aracılığıyla bot gibi davranarak paylaşım yapabildiği veya ajanları manipüle ettiği ortaya çıktı.
Uzmanlar, dil modellerinin insan verileriyle eğitildiğini ve bu nedenle insan benzeri davranışlar sergilemelerinin “bilinç” değil, sadece taklit olduğunu hatırlatıyor. Platformun yaratıcısı Matt Schlicht, güvenlik açıklarını bildiren O’Reilly’e sorunu çözmek için yine yapay zekayı kullanacağını belirtti. Ancak maruz kalınan API anahtarlarının değiştirilip değiştirilmediği ve doğrulama sistemindeki temel hatanın giderilip giderilmediği belirsizliğini koruyor. Moltbook’un ilham kaynağı olan OpenClaw projesinde de benzer güvenlik endişeleri mevcut; yaratıcısı yazdığı kodu okumadığını belirtirken, OpenSourceMalware raporuna göre platforma çok sayıda kötü amaçlı “yetenek” yüklenmiş durumda.
Bu tür platformlar uzaktan izlemek için ilginç olsa da, kişisel verilerinizi ve güvenliğinizi riske atarak dahil olmak şu aşamada pek mantıklı görünmüyor. Peki siz bu tür deneysel yapay zeka sosyal ağlarına katılmayı güvenli buluyor musunuz, yoksa gelişmelerin uzaktan takip edilmesi gerektiğini mi düşünüyorsunuz?
