BM Güvenlik Konseyi 23 Eylül Çarşamba günü yapay zekâyı bu teknolojiyi geliştiren şirketlerin ağzından dinleyecek. Reuters’ın iki kaynağa dayandırdığı habere göre Çinli DeepSeek, ABD’li laboratuvarlarla aynı oturumda yapay zekâ risklerini anlatacak. OpenAI CEO’su Sam Altman brifinge bizzat katılacak; diplomatlar Anthropic’ten üst düzey yöneticilerin de oturumda olmasını bekliyor. Reuters’ın aktardığına göre Altman’ın oturumda uluslararası koordinasyonu ve ortak güvenlik standartlarını öne çıkarması bekleniyor. Toplantıyı, bu ay Konsey’in dönem başkanlığını yürüten Fransa topladı.
Oturum, dünya liderlerinin New York’ta Genel Kurul haftası için bir araya geldiği günde yapılacak. On beş üyeli Konsey’in beş kalıcı üyesi arasında ABD, Çin, Rusya, İngiltere ve Fransa var. Konsey yapay zekâyı ilk kez 2023’te tartışmıştı; o oturumda Çin yapay zekânın “başıboş bir at” olmaması gerektiğini söylemiş, ABD hükümetlerin teknolojiyi sansür ve baskı için kullanmasından endişe duyduğunu belirtmişti. Fransa’nın oturum için gönderdiği konsept notu, yapay zekânın kötüye kullanımını ve gelişmiş modeller üzerindeki denetimin kaybedilmesi riskini öne çıkarıyor. Oturuma Dışişleri Bakanı Jean-Noël Barrot başkanlık edecek; diplomatlar bağlayıcı bir karar beklenmediğini söylüyor.
Toplantı, sınır modellerin hangi hızda geliştirileceği tartışmasının tam ortasına düşüyor. Anthropic CEO’su Dario Amodei bu ay şirketleri modellerini iyileştirme hızını yavaşlatmaya çağırdı; 12 Eylül’de yayımladığı yazıda gelişme hızının doğrulama mekanizmalarına bağlanmasını önermişti. Çağrıyı Altman ve Elon Musk destekledi, Meta’dan Mark Zuckerberg karşı çıktı. Bloomberg’in haberine göre Amodei de Konsey’e brifing verecek isimler arasında. Reuters’a göre davetler DeepSeek ve Moonshot dahil birkaç Çinli şirkete iletildi; DeepSeek kurucusu Liang Wenfeng’in kendisinin gelmesi beklenmiyor ve kaynaklardan biri planların son anda değişebileceği uyarısını yapıyor. DeepSeek ve Moonshot Reuters’a yorum yapmadı.
Hangzhou merkezli DeepSeek, Ocak 2025’te R1 modelinin düşük maliyetiyle ABD teknoloji hisselerini sarsmıştı; yarınki brifing, Çin’in en bilinen yapay zekâ geliştiricilerinden birini ABD laboratuvarlarıyla aynı BM masasına getiriyor. Hükümetler ise bölünmüş durumda: BM Genel Sekreteri António Guterres geçen hafta liderlere hızla gelişen yapay zekânın yarattığı tehlikelerin görmezden gelinemeyeceğini söyledi ve ulusal önlemlerin şart, küresel koordinasyonun ise vazgeçilmez olduğunu belirtti. ABD Başkanı Donald Trump ise mevcut güvenlik önlemlerinin yeterli olduğunu savunuyor.
Amodei’nin yavaşlama çağrısı ABD’de hukuki bir tartışmaya da dönüştü: Anthropic, OpenAI ve Google’a “yapay zekâyı yavaşlatma” iddiasıyla açılan toplu dava sürüyor. DeepSeek cephesi ise mesafeli; şirket Eylül başında yeni mimari ailesinin ilk modeli V4.1-Flash’ı çıkardı ve amiral gemisi V4-Pro’yu yıl sonuna yetiştirmeyi planlıyor.
Fotoğraf: Jdforrester, Wikimedia Commons, CC BY 4.0.