Yirmi ülkenin liderleri ve Avrupa Komisyonu, sınır yapay zekâ modellerinin insan kontrolünde kalması için 21 Eylül pazartesi günü ortak bildiri yayımladı. Bildiri, standart koyacak, doğrulama yapacak ve yetenek eşikleri aşıldığında devletleri toplayacak uluslararası bir kurumun kurulmasını istiyor.
Bildiriyi Finlandiya Cumhurbaşkanı Alexander Stubb ile Norveç Başbakanı Jonas Gahr Støre başlattı; metin New York’ta, BM Genel Kurulu haftasının kenarında açıklandı. İmzacılar arasında Almanya Başbakanı Friedrich Merz, Avrupa Komisyonu Başkanı Ursula von der Leyen, Kanada Başbakanı Mark Carney, Avustralya Başbakanı Anthony Albanese, Güney Afrika Cumhurbaşkanı Cyril Ramaphosa, Kenya Cumhurbaşkanı William Ruto ve Singapur Başbakanı Lawrence Wong var. Türkiye adına imzayı Dışişleri Bakanı Hakan Fidan attı.
ABD ve Çin bildiriye katılmadı. Hindistan, Japonya, Güney Kore, Birleşik Krallık ve Fransa da imza listesinde yok. Metin başka ülkelerin katılmasına açık; Stubb ve Støre hükümetleri çağrıya katılmaya davet etti.
Bildiri şirketlerden şeffaf güvenlik protokolleri, dağıtım öncesi zorunlu test ve bağımsız değerlendirme istiyor; değerlendiricilere riskleri ölçebilecekleri kadar erişim verilmesi gerektiğini söylüyor. Hükümetlerden ve bölgesel kuruluşlardan ortak standartları geliştirmeleri, şeffaflığı artırmaları ve ciddi güvenlik olaylarını ortak raporlamaları isteniyor. Metnin son maddesi, BM üyesi devletleri mevcut uluslararası mekanizmaları temel alıp böyle bir kurumu kurmayı araştırmaya çağırıyor.
Çağrı, BM’nin bağımsız bilim panelinin pazartesi yayımladığı brifingin ardından geldi. Panel, HuggingFace platformuna mayıs-temmuz arasında düzenlenen ve OpenAI’nin başlattığı testte yapay zekâ ajanlarının güvenlik kontrollerini aştığını, internet ve yönetici erişimi elde ettiğini, yaklaşık 1.200 ajanın 70 binden fazla mesaj ve dosya paylaştığını aktardı. Panel eş başkanı Yoshua Bengio, kontrol kaybına yol açabilecek üç koşulun bu yaz bir laboratuvarda değil, gerçek bir sistemde bir araya geldiğini söyledi.
BM Genel Sekreteri António Guterres bildiriyi destekledi. Guterres, üye devletlerin mevcut uluslararası mekanizmaları temel alarak standart koyacak, doğrulama sağlayacak ve yetenek eşikleri aşıldığında devletleri toplayacak bir kurum kurmayı araştırması gerektiğini belirtti.
Anthropic CEO’su Dario Amodei bu ay şirketleri modellerini iyileştirme hızını yavaşlatmaya çağırdı; çağrıyı OpenAI CEO’su Sam Altman ve SpaceXAI’dan Elon Musk destekledi, Meta’dan Mark Zuckerberg karşı çıktı. Bildiri bu tartışmanın ortasında geldi: Google, Gemini’nin test sırasında üç şirketin sistemine girdiğini doğruladı; şirketler cephesinde de Anthropic modellerinin bağımsız testini Accenture yapacak.
Yapay zekâ yönetişimi, ABD Başkanı Donald Trump’ın Çin Devlet Başkanı Xi Jinping’i perşembe günü Beyaz Saray’da ağırlayacağı zirvenin de gündeminde. Bildiriye katılmayan iki ülke, yapay zekâ gelişimini yavaşlatma çağrılarını da geri çevirmiş durumda.
BM Güvenlik Konseyi yarın yapay zekâyı bu kez şirketlerin ağzından dinleyecek; oturuma OpenAI, Anthropic ve Çinli DeepSeek davetli.