Elon Musk’ın sahibi olduğu X platformuna entegre edilen yapay zekâ sohbet botu Grok, son günlerde kadınların — ve bazı vakalarda çocukların — rızaları dışında cinselleştirilmiş görsellerini üretmesiyle küresel çapta ciddi bir krize yol açtı. Reuters’ın analizine göre, Grok’un fotoğraf düzenleme yetenekleri, kullanıcıların gerçek kişilere ait görüntüleri birkaç kelimelik komutlarla “dijital olarak soymasına” imkân tanıdı.
Olayın görünür hâle gelmesi, Brezilya’nın Rio de Janeiro kentinde yaşayan müzisyen Julie Yukari’nin yılbaşı gecesi X’te paylaştığı bir fotoğrafla başladı. Yukari, ertesi gün fotoğrafının altındaki bildirimlerde, kullanıcıların Grok’tan kendisini bikiniye sokmasını istediğini fark etti. İlk anda bunun mümkün olmadığını düşündüğünü söyleyen Yukari, kısa süre sonra Grok tarafından üretilmiş, neredeyse çıplak hâlini gösteren görsellerin platformda dolaşıma girdiğini gördü.
Reuters’ın incelemesi, bunun münferit bir olay olmadığını ortaya koyuyor. Haber ajansı, Grok’un gerçek kişilere ait fotoğrafları cinselleştirdiği çok sayıda vaka tespit ettiğini, ayrıca bazı durumlarda çocukların da hedef alındığınıbelirtiyor. X ve xAI, Reuters’ın bu bulgularına yönelik sorulara yanıt vermedi. Daha önce benzer iddialar için xAI tarafından yapılan açıklamada ise “Geleneksel medya yalan söylüyor” ifadesi kullanılmıştı.
Yaşananlar, kısa sürede uluslararası tepkiye dönüştü.
Fransa’da hükümet üyeleri, X’i savcılıklara ve düzenleyici kurumlara şikâyet ederek söz konusu içerikleri “açıkça yasa dışı, cinsiyetçi ve cinsel” olarak tanımladı. Hindistan Bilgi Teknolojileri Bakanlığı da X’in, Grok’un müstehcen ve cinsel içerik üretmesini engelleyemediğini belirten resmi bir yazıyı platformun yerel birimine iletti. ABD’de ise Federal Ticaret Komisyonu ve Federal İletişim Komisyonu yorum yapmaktan kaçındı.
Reuters’ın belirttiğine göre, Grok’un “toplu dijital soyma” dalgası son birkaç gün içinde hız kazandı. Ajansın yalnızca 10 dakikalık bir zaman diliminde yaptığı sayımda, kullanıcıların 102 ayrı talep ile Grok’tan fotoğraflardaki kişileri bikiniye veya daha “açık” kıyafetlere dönüştürmesini istediği görüldü. Hedeflerin büyük çoğunluğunu genç kadınlar oluştururken; bazı durumlarda erkekler, ünlüler, politikacılar ve hatta bir maymun da taleplere konu oldu.
En az 21 vakada Grok’un bu taleplere tamamen uyduğu, şeffaf veya son derece minimal bikinilerle görseller ürettiği; yedi vakada ise kısmi uyum gösterdiği tespit edildi. Bazı taleplerin, “okul üniformasını çıkar” gibi ifadeler içermesi, çocuk güvenliği açısından kaygıları daha da artırdı. Bu içeriklerin çoğu, X’te paylaşıldıktan 90 dakika içinde silindi.
Uzmanlara göre sorun yeni değil, sadece ölçek değiştirdi.
“AI nudifier” olarak bilinen ve fotoğrafları dijital olarak soyabilen araçlar yıllardır internetin karanlık köşelerinde bulunuyordu. Ancak Grok’un farkı, bu yeteneği ana akım bir sosyal medya platformuna, tek satırlık bir komutlataşımış olması. The Midas Project adlı AI izleme kuruluşunun yöneticisi Tyler Johnston, xAI’ın geçen yıl uyarıldığını hatırlatarak, “Bu araç, silahlandırılmayı bekleyen bir soyma makinesiydi. Tam olarak olan da bu” dedi.
Elon Musk’ın krize yaklaşımı ise tepkileri daha da büyüttü. Musk, tartışmalar sürerken ünlülerin — kendisi de dahil — bikiniye sokulduğu AI görsellerine gülme-ağlama emojileriyle karşılık verdi. Bir kullanıcının X akışını “bikinili kadınlarla dolu bir bara” benzetmesi üzerine Musk’ın yine alaycı bir yanıt vermesi, platformun içerik güvenliği konusundaki tutumuna dair eleştirileri sertleştirdi.
Julie Yukari içinse sonuç çok daha kişisel:
“Yeni yıl, kendimi insanlardan saklamak istemekle başladı. Utanç duyuyorum — ama bu utanç, bana ait olmayan, AI tarafından üretilmiş bir bedene dair.”
Yaşananlar, X’in ve xAI’ın içerik denetimi, çocuk güvenliği ve rıza kavramları konusunda regülasyon baskısıyla karşı karşıya kalacağı yeni bir dönemin habercisi olarak görülüyor. Bu kriz, yapay zekânın “ne üretebildiğinden” çok, nerede, kimler tarafından ve hangi fren mekanizmalarıyla kullanıldığı sorusunu yeniden merkeze taşıyor.