ABD yönetimi, yapay zekâ şirketleriyle yeni bir güvenlik mekanizması kurdu. Ancak bu mekanizma hukuki yaptırıma değil, gönüllü işbirliğine dayanıyor. Teknik ölçütler ve sürecin işleyişi de kamuoyuna açıklanmış değil.
Beyaz Saray, 3 Ağustos’ta, 2 Haziran tarihli başkanlık kararnamesinde öngörülen çerçevenin süresi içinde tamamlandığını duyurdu. Tamamlanan unsur testlerin kendisi değil; geliştiricilerin henüz piyasaya çıkmamış ileri modelleri federal hükümetle paylaşmasına ve modellerin siber kabiliyetlerinin değerlendirilmesine yönelik gönüllü süreç.
Reuters’a göre Meta, Anthropic, Google ve OpenAI temsilcileri 4 Ağustos’ta Beyaz Saray yetkilileriyle görüşmeye davet edildi. Axios da şirketlerle personel düzeyinde bir toplantı planlandığını bildirdi. Toplantının sonucu ve şirketlerin çerçeveye katılım konusundaki tutumu henüz kamuya açıklanmadı.
Denetimin odağında saldırı kapasitesi var
Çerçeve, genel yapay zekâ güvenliğinden çok modellerin saldırı amacıyla kullanılabilme kapasitesine odaklanıyor. Başkanlık kararnamesi, federal kurumlara ileri siber kabiliyetleri değerlendirecek gizli bir kıyaslama süreci geliştirme görevi veriyor.
Kamuya açık düzenleme; ayrımcılık, yanlış bilgi, telif hakkı veya tüketici güvenliği için kapsamlı bir inceleme sistemi kurmuyor. Temel mesele, bir modelin yazılım açıklarını bulma, bilgisayar sistemlerine erişimi kolaylaştırma veya gelişmiş siber operasyonları destekleme yeteneğinin ne zaman ulusal güvenlik riski oluşturduğu.
Kullanılacak görevler, puanlama sistemi ve kritik eşikler açıklanmadı. Bir modelin “kapsanan sınır modeli” sayılmasına ilişkin nihai kararı NSA direktörünün vermesi öngörülüyor. Karar sürecine Ulusal Siber Direktör, Beyaz Saray bilim ve teknoloji yetkilileri, Siber Güvenlik ve Altyapı Güvenliği Ajansı ile savunma birimleri katkı sağlayacak.
Federal uzmanlara 30 günlük erişim
Süreç iki aşamalı işleyecek. Geliştirici önce yapım aşamasındaki modelinin kapsama girip girmediğini hükümetle değerlendirebilecek. Model kapsanan sınır modeli olarak sınıflandırılırsa şirket, sistemi planlanan erken dağıtımdan önce federal uzmanlara 30 güne kadar açabilecek.
Erişimin gizlilik, siber güvenlik, içeriden tehdit, fikri mülkiyet, kullanım ve ifşa etmeme koşullarına bağlanması gerekiyor. Ayrıca hangi kurum veya şirketlerin güvenilir ortak kabul edilerek modele erişebileceğini belirleyen bir seçim süreci oluşturulması bekleniyor.
Buna karşın çerçevenin metni yayımlanmadı. Teknik test yönteminin gizli tutulması kararnameyle öngörülse de gönüllü katılım sürecinin tamamı için aynı açık hüküm bulunmuyor. Böylece yalnızca saldırı senaryoları değil, şirketlerle hükümet arasındaki ilişkinin usulü de kapalı kalıyor.
Katılım gönüllü, yaptırım mekanizması yok
Anthropic, OpenAI ve Google’ın taslak üzerinde yönetime geri bildirim verdiği, Beyaz Saray’ın ise daha fazla sektör ortağıyla temas kurduğu bildirildi. Meta’nın toplantıya davet edilmesi, şirketin model sunmayı kabul ettiği anlamına gelmiyor. Yeni çerçeveye katılacak şirketlerin resmi listesi de yayımlanmadı.
Kararname; modellerin geliştirilmesi, yayımlanması veya dağıtılması için zorunlu lisans, ön onay ya da izin sistemi oluşturmuyor. Şirketleri katılmaya zorlayan bir hüküm veya riskli bulunan bir modelin piyasaya çıkışını otomatik biçimde durduracak mekanizma bulunmuyor.
Bu durum, büyük laboratuvarların devlet değerlendirmesini güven sinyali olarak kullanabilmesine imkân tanırken küçük geliştiricileri gizli eşiklere ve federal güvenlik altyapısına erişimde dezavantajlı bırakabilir.
Mint11 değerlendirmesi
Washington, bağlayıcı bir düzenleyici rejimden çok devlet ile önde gelen laboratuvarlar arasında erken uyarı kanalı kuruyor. NSA’nın rolü ve 30 günlük erişim süreci ulusal güvenlik ağırlığını artırıyor; gönüllülük, gizli eşikler ve yaptırım eksikliği ise gerçek etkinliği şirketlerin katılımına ve hükümetin dolaylı nüfuzuna bağlıyor.