OpenAI CEO'su Sam Altman, 14 Eylül sabahı X'te yayımladığı açıklamada, şirketin yeteneği belirgin biçimde artırmasını beklediği sınır pekiştirmeli öğrenme çalışmalarına başlamadan önce açık bir "güvenlik gerekçesi" hazırladığını duyurdu. Altman, bunun model yayımı öncesinde yıllardır yapılan güvenlik çalışmasının yerine değil, üzerine eklendiğini yazdı.
Gerekçesini, sektörün elindeki araçların eskimesine bağladı. Altman'a göre Sorumlu Ölçekleme Politikaları ve Hazırlık Çerçeveleri gibi belgeler kendi döneminde işe yaradı; ancak bunlar ağırlıklı olarak tamamlanmış modellerin dağıtımını düzenliyordu, eğitim sürecinde olup biteni değil. Güvenli geliştirme ve değerlendirmeye geçişin yeni araçlar gerektireceğini söyledi.
Altman, diğer şirketlerin de benzer yaklaşımlar önermesini beklediğini, hizalama bozukluğu, izleme ve güvenlik için ortak standartların daha iyi sonuç vereceğini belirtti. Sektördeki muadilleriyle bu standartların üzerinde çalışmaya hazır olduğunu ekledi.
Düzenleme tarafında tutumu net. Sınır yapay zekâ için tutarlı güvenlik yükümlülükleri getiren federal bir çerçeveyi olumlu karşıladığını, bağımsız denetçiler gibi fikirlerin kendilerini heyecanlandırdığını yazdı. Buna karşılık şirketlerin bir antitröst muafiyetini ya da yasayı beklemesine gerek görmüyor: "Her sınır laboratuvarı bunu sağlamak zorunda ve sağlayamıyorsak hiçbirimizin işe gelmesi için bir sebep yok."
Açıklamanın en çok tartışılacak bölümü tanım kısmı. Altman, "tempo ayarlamak" derken "durdurmayı" kastetmediklerini vurguladı. İlerleme hızlı sürecek, ancak olabileceğinden yavaş olacak; güvenlik gerekçeleri ve izleme ciddi maliyet getiriyor. Hiçbir Amerikan rekabet baskısının pervasızlığı ya da yeteneklerin hizalama ve izlemenin önüne geçmesini haklı çıkarmayacağını yazdı. Hükümetten asıl beklentisini ise uluslararası eşgüdüm olarak tanımladı; öncesinde şirketlerin kendi başlarına yapabileceklerini yapması gerektiğini söyledi.
Metin, Anthropic CEO'su Dario Amodei'nin 12 Eylül'de yayımladığı "We Must Pace the Frontier" denemesinin açtığı tartışmaya doğrudan bağlanıyor. Amodei orada gömülü bağımsız değerlendiriciler, demokrasiler arası eşgüdüm ve küresel kademeli anlaşmalardan oluşan üç adımlı bir çerçeve önermiş, rekabet hukuku engeli için ABD yönetiminden dar kapsamlı bir muafiyet istemişti. Altman muafiyet beklemeyi reddederken denetçi fikrine kapı açıyor.
Açıklamanın arka planında ağustos ayındaki olay bulunuyor. OpenAI, bir yapay zekâ ajanı ve Hugging Face platformunu ilgilendiren güvenlik olayının ardından en yeni modellerinin pekiştirmeli öğrenme eğitimini iki hafta durdurmuş, en büyük planlı sınır eğitimi o tarihten bu yana askıda kalmıştı.
Açıklama birkaç noktayı belirsiz bırakıyor. Hangi yetenek eşiğinin güvenlik gerekçesi zorunluluğunu tetiklediği, bu gerekçelerin kamuya açıklanıp açıklanmayacağı ve bağımsız denetçilerin hangi yetkiyle çalışacağı yazılmadı. Federal çerçeve için ortada bir yasa metni de bulunmuyor.