Google, sekizinci nesil yapay zekâ çiplerine dayanan iki yeni sistem olan TPU 8tx ve TPU 8i Max’i 9 Kasım’da duyurdu. Şirketin yapay zekâ ve altyapıdan sorumlu kıdemli başkan yardımcısı ve baş teknoloğu Amin Vahdat’ın blog yazısına göre Google ilk kez bir yıl içinde dört TPU sistemi tanıtmış oldu. Bloomberg duyuruyu, Google’ın yüz milyarlarca dolarlık yapay zekâ çipi pazarında Nvidia’ya rakip olma çabasının parçası olarak değerlendirdi.
Yeni sistemler yeni bir çip anlamına gelmiyor. Sekizinci nesil, Nisan’daki Google Cloud Next’te eğitim için TPU 8t ve gerçek zamanlı akıl yürütme için TPU 8i ile başlamıştı. 8tx ve 8i Max bu çiplerin silikonunu kullanıyor. Google değişikliği paketleme, bellek, ağ ve güvenlik katmanında yaptı. Vahdat çip tasarımını fizik yasalarıyla sınırlı, yıllar süren bir süreç olarak tanımlıyor. Modüler yapı sayesinde özel süper bilgisayarları yıllar yerine aylar içinde sunabildiklerini yazıyor.
TPU 8tx, en hassas verileriyle model ve yapay zekâ ajanı çalıştıran, sıkı düzenlemeye tabi şirketler ile hükümetler için tasarlandı. Veriler depoda ve ağda şifreli kalıyor. İşlem anında bellekte açılması gerekiyor. TPU 8t ile aynı silikonu beşinci nesil AMD EPYC işlemcilerle eşleştiren sistem, Google’a göre veriyi ve model ağırlıklarını kullanım sırasında da donanım düzeyinde korumalı ve yalıtılmış tutuyor. Şirket, 8i için geliştirdiği Boardfly ağını kullanan 8tx’in gecikmeyi TPU 8t’ye göre iki kata kadar azalttığını söylüyor.
TPU 8i Max ise Google’ın bellek duvarı dediği soruna yöneliyor. Düzinelerce yapay zekâ ajanı aynı anda bütün bir kod tabanı ya da saatlerce video üzerinde çalıştığında bellek bant genişliği darboğaza dönüşüyor. Google tek pakete iki TPU 8i çipi yerleştirdi. Böylece işlem gücü, çip üzerindeki SRAM bellek ve HBM bant genişliği 8i’ye göre iki katına çıktı. Şirkete göre sistem, milyon token’lık bağlam pencerelerinde çalışacak. Şirkete göre aynı raf alanına iki kat silikon sığdığı için metrekare ve watt başına işlem gücü de artıyor.
Google duyuruyla birlikte yazılım tarafında da adım attı. Önizlemedeki açık kaynak TPU ajan paketi Claude Code, Cursor ve Google Antigravity gibi kodlama araçlarına bağlanıyor ve iş yüklerinin TPU’ya taşınmasını otomatikleştiriyor. Şirket TPU Sync adlı model durumu katmanını da açık kaynak yaptı. Google bu katmanın ilk token’a kadar geçen süreyi yüzde 90’dan fazla kısalttığını söylüyor.
Vahdat’a göre TPU’lar, öncü yapay zekâ laboratuvarlarından alım satım şirketlerine, perakendecilerden üniversitelere kadar yaklaşık 100 müşterisi olan ve hızla büyüyen bir iş. Google bazı müşterilerin TPU’ları kendi veri merkezlerine kurmasına da izin veriyor. Yazıda iki sistem için fiyat ya da kullanıma açılış tarihi yer almıyor. Bu performans rakamlarını yalnız Google açıkladı.