Fransa Cumhurbaşkanı Emmanuel Macron’un 9 Kasım’da topladığı görüşmede altı ülke, on yapay zekâ şirketi ve dört sivil toplum kuruluşu, en gelişmiş yapay zekâ modellerinin güvenliğine yönelik ortak bir bildiri imzaladı. Élysée Sarayı’nın yayımladığı “Yapay Zekâ Emniyeti ve Güvenliği için Paris Çağrısı” metnini Fransa, Kanada, Norveç, Finlandiya, Hollanda ve Bahreyn onayladı.
Metni imzalayan şirketler Anthropic, OpenAI, Microsoft, Mistral AI, Cohere, Hugging Face, Black Forest Labs, Domyn, Sakana AI ve Synthesia oldu. Sivil toplum tarafında Yoshua Bengio’nun kurduğu LawZero, SaferAI, AI Safety Connect ve Fransız Uluslararası İlişkiler Enstitüsü (Ifri) metne imza attı. Élysée, bildirinin yeni destekçilere açık kaldığını ve listenin güncelleneceğini duyurdu. Kanada Başbakanlığı da aynı gün ortak bildiriyi kendi sitesinde yayımladı.
Görüşmeye katılan herkes imzacı olmadı. Élysée’nin açıklamasına göre toplantıya sekiz ülkenin lideri katıldı; Japonya, Birleşik Krallık ve Sierra Leone bu listede bulunduğu hâlde imzacılar arasında görünmüyor. ABD’yi Hazine Bakanı Scott Bessent temsil etti, ancak ABD de imza listesine girmedi. Alman haber ajansı dpa, Avrupa Birliği’nden resmi bir temsilcinin katılımcı listesinde yer almadığını aktardı. Türkiye ise ne katılımcılar ne de imzacılar arasında yer aldı.
Bildiri üç taahhüt başlığı içeriyor. İlk başlıkta hükümetler, araştırmacılar ve geliştiriciler en ileri modellerin risklerini ölçmek için ortak bir değerlendirme çerçevesi kurmayı kabul ediyor. Çerçeve özellikle siber saldırılara, kimyasal, biyolojik, radyolojik ve nükleer (KBRN) alanlardaki kötüye kullanıma ve modellerin kontrolden çıkma ihtimaline odaklanacak. İmzacılar, testlerin hassas sayılmayan sonuçlarını standart bir biçimde yayımlayıp herkesin erişebileceği ortak bir arşivde toplamayı da üstlendi.
İkinci başlık sorumluluğu düzenliyor. Geliştiriciler modellerinin yeteneklerini, sınırlarını ve bilinen risklerini açıklamayı, uygun durumlarda bağımsız değerlendiricilerin incelemesine izin vermeyi taahhüt etti. Şirketler, eğitim ve şirket içi kullanım dahil kendi kontrollerindeki modelleri durdurabilecek acil kapatma mekanizmaları kurmayı da kabul etti. Hükümetler ise büyük ölçekli ve sınır ötesi zararlarda sorumluluğun kime düştüğünü yasalarla netleştireceklerini bildirdi.
Üçüncü başlık bilgi paylaşımını kapsıyor. İmzacılar, ciddi siber olaylar ve kontrol kaybına dair bilgilerin şirketler ile hükümetler arasında hızla dolaşması için mevcut bildirim ve erken uyarı sistemlerini güçlendirecek. Ayrı bir iş birliği mekanizmasına ihtiyaç olup olmadığı da incelenecek. Hükümetler, sistemik riskleri bildiren çalışanlara misillemeden korunacakları gizli kanallar açma sözü verdi.
dpa’ya göre Macron, yaklaşık 50 katılımcının video bağlantısıyla katıldığı görüşmenin ardından X’te yapay zekânın “ortak güvenliğimiz için gerçek riskler” taşıdığını yazdı. Le Monde, toplantının, yaklaşık 30 liderin 10 Kasım’da uluslararası yapay zekâ düzenlemesi olasılığını görüşeceği Paris Barış Forumu’nun arifesinde yapıldığını aktardı. Metinde taahhütlerin uygulanmasını izleyecek bir mekanizma ya da takvim yer almıyor; ortak arşivin ne zaman açılacağı da açıklanmadı.