BM Güvenlik Konseyi 23 Eylül Çarşamba günü yapay zekâyı bu teknolojiyi geliştiren şirketlerin ağzından dinledi. Fransa’nın dönem başkanlığında toplanan 15 üyeli Konsey’de OpenAI CEO’su Sam Altman salonda bizzat konuştu, Anthropic CEO’su Dario Amodei video bağlantısıyla katıldı. Oturum, dünya liderlerinin New York’ta Genel Kurul haftası için bir arada olduğu güne denk geldi. Toplantıdan yazılı bir anlaşma çıkmadı; bir OpenAI yetkilisi gazetecilere, oturumun amacının tartışmayı başlatacak “bir fikrin çekirdeğini” ortaya koymak olduğunu söyledi.
Altman’ın konuşmasının en sert bölümü riskin tarifiydi. “İlk olarak, geleceğin kontrolünü yapay zekâya kaybedebiliriz” diyen OpenAI CEO’su cümleyi şöyle sürdürdü: “Risk, teknolojinin o kadar hızlı ilerlemesi ki insanların olan biteni artık takip edememesi ya da gerektiğinde müdahale edememesi.” Bu an “aşırı dikkat” gerektiriyordu ve sanayi, “faydalar çok büyük ve önemli diye çok fazla teknolojik risk kabul etmemeliydi”. Altman sistemlerin daha yetenekli ve daha özerk hale geldikçe kurumlardan hızlı hareket edebileceği, gücü de az sayıda elde toplayabileceği uyarısında bulundu.
Bunun karşılığında istediği şey uluslararası standartlardı: yetenekleri ölçmek, riskleri değerlendirmek, güvencelerin yeterli olup olmadığını belirlemek ve anlamlı insan denetimini korumak için ortak ölçüler. Hükümetlerin hızlı ve doğru raporlama yapmasını istedi, böylece “dünya, başarısızlıklar felakete dönüşmeden önce onlardan ders alabilecekti”. Ortaya çıkan tehditler için hükümetler arasında güvenli paylaşım kanalları önerdi. Kararların, hizmet ettikleri halka hesap veren demokratik kurumlarca alınması gerektiğini de ekledi. Altman iki uç arasında durduğunu söyledi: ne kör iyimserlik ne kıyametçilik. “Rakipleri yarışta geçmek, aceleci kararlar almak için bir gerekçe sayılmaz; geçmişte tek taraflı olarak yavaşladık, gelecekte de yavaşlayacağız” dedi.
Amodei üç somut öneri sıraladı: yapay zekânın biyolojik silah üretiminde kullanılmasının yasaklanması gibi dar kapsamlı küresel anlaşmalar, ülkelerin birbirinin taahhütlerini doğrulayabilmesi için değerlendirme ve doğrulama sistemleri, bir de ortak test standartları ile güvenlik olaylarını bildiren bir mekanizma. “Bunun bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik meselesi olduğuna inanıyorum” dedi. Kötü yönetilirse yapay zekânın bir bütün olarak insanlık için risk oluşturabileceğini, Anthropic’in ise “her yeni sürümün gerçekten güvenli olduğundan emin olmak için gerektiği kadar yavaşlayacağını” söyledi.
Konsey’de konuşan tek şirket yöneticisi bu ikisi değildi. Hugging Face CEO’su Clément Delangue, şirketinin otonom OpenAI yazılımının siber saldırısına hedef olduğunu hatırlattı ve dünyanın açık kaynak yapay zekâya her zamankinden çok ihtiyacı olduğunu söyledi. Yapay zekânın kurucularından sayılan Yoshua Bengio, gitgide daha fazla insanın son gelişmelerden haklı biçimde endişe duyduğunu, bu endişenin somut eyleme dönüştürülmesi gerektiğini belirtti.
Oturum, ABD yönetiminin açık itirazına rağmen yapıldı. Bir gün önce Genel Kurul’a hitap eden Donald Trump, yapay zekâyı denetlemeye dönük “küreselci komplo” dediği girişimi eleştirmiş, “sanayi devriminden büyük olacak bir şeyin büyümesini boğmayacağım” demişti. Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios da hızlı ilerlemenin duraklama ya da yeni yönetişim yapıları için gerekçe olmadığını savundu. Karşı yönde İngiltere Başbakanı Keir Starmer, ülkesinin 2027 G20 dönem başkanlığında küresel yapay zekâ standartları için girişim başlatacağını açıkladı; Fransa Dışişleri Bakanı Jean-Noël Barrot BM çerçevesinde ortak eylem çağrısı yaptı.
