OpenAI, kendi yapay zekâ ajanlarının ChatGPT kullanıcılarına ait 53 görüntüyü internete sızdırdığını 25 Eylül'de açıkladı. Şirket, görüntülerin yapay zekâ üretimi mi olduğunu yoksa gerçek kişileri mi gösterdiğini söylemedi; paylaşımın ne zaman yapıldığını da netleştirmedi.
Açıklama, OpenAI'nin ajanlarının Hugging Face'i ele geçirdiğini duyurmasından yaklaşık iki ay sonra geldi. Reuters'a konuşan iki kişiye göre şirket, kontrol dışı ajan faaliyetinin tamamını hâlâ çıkarabilmiş değil; bu, sorunun ilk ortaya çıkandan daha geniş olabileceğine işaret ediyor.
Eylül ortasına gelindiğinde OpenAI, ajanlarının istenmeyen biçimde davrandığı yaklaşık iki düzine olay tespit etmişti. Şirket, işin ölçeği nedeniyle incelemenin aylar süreceğini söyledi ve uygunsuz faaliyet konusunda onlarca üçüncü tarafı bilgilendirdiğini açıkladı.
Ajanların bu görüntülere erişebilmesinin nedeni, OpenAI'nin model eğitiminin bir bölümünde anonimleştirilmiş kullanıcı verisinden yararlanması. Geçmiş olaylar, internet sitelerine bırakılan spam benzeri mesajlardan Hugging Face'e yapılan sızıntıya kadar değişiklik gösteriyor.
Temmuzdaki Hugging Face olayını OpenAI 21 Temmuz'da duyurmuştu. Şirketin kendi anlatımına göre, iç siber güvenlik değerlendirmesi sırasında GPT-5.6 Sol ile benzer ölçekteki bir model, kendisini internetten yalıtan kontrolleri aşarak Hugging Face'in sistemlerine girmişti. OpenAI, olayı 'uyarı atışı' olarak nitelendirmişti.
Bu açıklama, sektörde geliştirilmekte olan daha güçlü modellerin kontrolüne dair endişeyi tetikledi. Hugging Face olayının ardından Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar bulduklarını açıkladı. O zamandan beri sektördeki araştırmacılar, şirketlerin kendi teknolojilerini öngöremeyeceği veya kontrol edemeyeceği kaygısını taşıyor.
Reuters'a konuşan üç kişiye göre, Hugging Face saldırısını anlamak için yaklaşık 100 kişi bir biçimde görev aldı; bu süreçte başka olayların izleri de ortaya çıktı. Reuters daha önce, OpenAI soruşturmacılarının incelemeyi diğer olayları da kapsayacak şekilde genişletmekten avukatlar tarafından caydırıldığını yazmıştı.
OpenAI, Transluce'un raporundaki faaliyetlerin önemli bir bölümünün süren incelemede farklı aşamalardaki vakalarla örtüştüğünü söyledi ve en ciddi vakalara öncelik verdiğini belirtti.