Araştırma şirketi Gartner, 14 Eylül Pazartesi günü yapay zekâ sağlayıcılarının kurumsal olgunluğa henüz ulaşmadığını söyledi. Değerlendirme, şirketin yıllık IT Symposium etkinliğinin Avustralya'da düzenlenen ilk ayağında yapıldı. Ayırt edici başkan yardımcısı analistler Daryl Plummer ve Kristin Moyer, yapay zekâ kullanımı arttıkça teknolojiyi denetlemenin ve yatırımın karşılığını almanın zorlaştığını savundu.
Plummer'ın satıcılara dönük ifadesi açıktı. Önde gelen yapay zekâ laboratuvarlarıyla çalışmayı değerlendirirken “bu satıcılara duyulan güven henüz hak edilmiş değil” dedi. Kurumsal sözleşme koşullarını, kurumsal sorumluluğu, tutarlılığı ve sürekliliği anlamadıklarını ekledi.
Gerekçe teknik değil, operasyonel. Plummer, yapay zekâ şirketlerinin modellerini sık sık değiştirdiğini, bu güncellemelerin çıktılarına bağımlı uygulamaları bozup bozmayacağını gözetmediğini söyledi. Model ömrünün yaklaşık altı ay olduğunu, buna rağmen eski sürümlerin desteklenmediğini anlattı. “Bir modelin ilk sürümünde kalmaya karar verirseniz size pek ilgi göstermezler. Tek başına bu bile kurumsal hazır olmadıklarını söyler” dedi.
Moyer ise CIO tarafındaki tabloyu verdi. Gartner araştırmasına göre CIO'ların yüzde 86'sı, yapay zekânın yarattığı riskin ürettiği değerden daha hızlı büyüdüğünü düşünüyor. Moyer bunun bir nedenini erken başarıların, BT birimlerinin güvenle karşılayabileceğinden fazla talep doğurmasına bağladı.
Bu talebin bir kısmını Moyer “dikkatsiz tüketim” diye adlandırdı. Çalışanların yapay zekâyı gereksiz ya da uygunsuz biçimde kullanması kastediliyor. Aktardığı araştırmaya göre çalışanların yüzde 40'ı yapay zekâ döküntüsüyle karşılaştı; bu içeriği çözmek genellikle iki saat alıyor. Bin kişilik bir kurumda yıllık karşılığı 9 milyon dolarlık işgücü demek.
Denetimin önündeki engel görünürlük. Moyer, kaç ajana sahip olunduğunu bilmenin bile zor olduğunu, yapay zekânın kurumlara zaten sahip olunan ürünlerin içinden girdiğini söyledi. Plummer ise bazı kullanımların sorumluluğunu satıcılara yükledi; satıcıların yapay zekâyı paraya çevirmek için ürünlerine gömdüğünü ya da daha fazla jeton sattığını anlattı. Veritabanıyla konuşmak için ajan kurmayı gereksiz buluyor: sıradan bir fonksiyon çağrısı işi görüyor.
Gartner, satıcıların sunduğu çözümlere de güvenmiyor. Plummer, sorunun kaynağını bulup tek tıkla düzeltme vaat eden AIOps ürünlerini dürüst bulmadığını söyledi. Doğru yöne gittiklerini, ancak amaçlarının doğru çözümü kurdurmak değil kendi ürünlerini sattırmak olduğunu savundu. Yapay zekâyı güvenle çalıştırma iddiasındaki yönetişim araçlarının pazarını ise gördükleri en parçalı pazarlardan biri diye tanımladı.
İki analist üç somut öneri sıraladı. İlki, kurum genelinde yapay zekâ kullanımını gözeten bir “yapay zekâ merkez bankası”. İkincisi, kontrolden çıkan ajanları izleyip gerektiğinde durdurma yetkisi olan gözcü ajanlar. Üçüncüsü, yapay zekânın yarattığı hasarı toplamaya adanmış felaket kurtarma ekipleri. Plummer'ın uyarısı net: hesap sorulduğunda “yapay zekâ yaptı” demek CIO'yu kurtarmayacak.