Anthropic 11 Eylül’de, kuzey Yemen merkezli bir silah geliştirme hücresinin Claude’u güdümlü roket ve balistik füze yazılımı üretmek için kullandığını tespit ettiğini açıkladı. Şirket, aynı gün yayımladığı eylül ayı tehdit istihbaratı raporunda hücreye bağlı bütün hesapları kapattığını bildirdi.
Raporda GTG-87001 koduyla anılan hücre, eş zamanlı üç program yürütüyordu. Birincisi, telefon sınıfı sıradan bir uçuş bilgisayarı üzerine kurulu, son aşamada hedefe kilitlenen güdümlü bir roketti. İkincisi, menzil hedefi 2.000 kilometrenin üzerinde açıklanan çok kademeli bir balistik füzeydi. Üçüncüsü ise hücrenin “R2000” adını verdiği, içinde hipersonik süzülen bir varyantın da bulunduğu çok versiyonlu bir füze ailesiydi.
Hücre, Claude Code’u insan yazılım mühendislerinin yerine kullandı. Uçan bir aracı yönlendiren ve dengede tutan güdüm, seyrüsefer ve kontrol yazılımını modele yazdırdı. Açık kaynaklı bir otopilotu telefon sınıfı uçuş bilgisayarına entegre etme, konum kestirim kodunu yazma, kontrol parametrelerini ayarlama, ürün yazılımı derleme hattını çalıştırma ve uçuş simülasyonu yapma işleri bu şekilde ilerledi.
Çalışma biçimi küçük bir mühendislik ekibini taklit ediyordu. Aktörler aynı anda birkaç Claude örneği açıp her birine ayrı rol verdi: biri kod yazdı, biri araştırma yaptı, üçüncüsü ilk örneğin ürettiği kodu denetledi. Anthropic’in güvenlik filtreleri taleplerin çoğunu engelledi, ancak bir kısmı filtreleri aştı. Hücre filtreleri aşmak için amacını ve yazılımın hangi ürüne gideceğini gizledi, işi çok sayıda oturuma bölerek tek bir oturumun bütün niyeti ele vermesini önledi.
Raporun en somut bulgusu bir saha denemesi. Hücre Yemen’de güdümlü bir roketi ateşledi ve deneme başarısız göründü. Aktörler atıştan birkaç saat sonra Claude’a dönüp arızanın nedenini çözmeye çalıştı; Anthropic olayı bu telemetri analizi üzerinden tespit etti.
Şirket, aktörlerin sahada çalışan bir silah sistemini hizmete soktuğuna dair kanıtı bulunmadığını vurguluyor. Buna karşılık bir sınırı da kabul ediyor: hücre, Claude’a ya da MATLAB gibi mühendislik ortamlarına ihtiyaç duymayan çevrimdışı bir simülasyon araç setini çoktan kurmuştu. Yani hesapların kapatılması programı durdurmuyor, yalnızca hızını düşürüyor.
Anthropic hesapları kapattıktan sonra bulgularını kamu kurumlarıyla ve sektördeki muadilleriyle paylaştı. Aynı rapor, Claude’un biyolojik silah araştırmasında kullanılma girişimini de belgeliyor.
Bulgunun asıl ağırlığı şurada: silah geliştirmenin darboğazı uzun süre uzman mühendis erişimiydi. Güdüm yazılımını genel amaçlı bir dil modeline yazdırabilen bir hücre, o darboğazı kısmen aşıyor. Denemenin başarısız olması tabloyu değiştirmiyor, çünkü aktörler arıza analizini de aynı modele yaptırdı. Model sağlayıcılarının tespit yeteneği burada tek gerçek denetim katmanı olarak kalıyor.