OpenAI, 25 Ağustos 2026’da Stanford’daki Hot Chips yarıiletken konferansında Jalapeño adlı özel çıkarım çipinin ilk ölçümlerini açıkladı. Donanım başkan yardımcısı Richard Ho, SemiAnalysis’in InferenceX testinde sistemin mevcut en iyi çıkarım işlemcilerinden hem kullanıcı başına daha fazla iş ürettiğini hem de kilovat başına daha yüksek verim verdiğini söyledi. Karşılaştırma Nvidia’nın GB200 ve GB300 süperçip sistemlerine dayanıyor.
Jalapeño, Broadcom ile geliştirilen ve Haziran 2026’da tanıtılan özel bir devre. Çip, eğitilmiş modeli çalıştırıp yanıt üretmek için tasarlandı. Bu devre eğitim işini kapsamıyor. Ho, Jalapeño’nun hem daha düşük gecikme hem daha yüksek iş hacmi verdiğini, bu iki hedefin genelde birbirini kestiğini söyledi. Daha önce Google’da TPU ekibinde çalışan Ho, tasarımın yaklaşık dokuz ayda banda gittiğini ve içerde kullanılan yapay zekâ araçlarının süreyi kısalttığını da ekledi.
OpenAI’nin ölçümüne göre sistem, GPT-OSS 120B, DeepSeek R1 ve Kimi K2.5 1T modellerinde watt başına 1,5 ila 1,9 kat daha fazla iş çıkardı. Uçtan uca gecikme aynı üç modelde 1,7 ila 3,6 kat daha düşüktü. Çok düşük gecikmeli çıkarımda şirket, 2,1 ila 4,1 kat daha hızlı olduğunu öne sürdü.
Raf ölçeğinde 128 hızlandırıcı, dört bitlik düşük hassasiyetli hesapta 1,7 exaFLOPS ve 27,5 terabayt HBM4 yüksek bant genişlikli bellek taşıyor. Tek çip 13,4 petaFLOPS MXFP4 hesap, 216 gigabayt HBM4 ve saniyede 15,4 terabayt bellek bant genişliği veriyor. Şirket, model durumunun ve yanıt üretirken kullanılan bellek önbelleğinin çipe yakın tutulması için veri hareketini kıstığını yazdı.
Ho, 2026 sonunda çok küçük hacimde teslimat beklediğini, asıl üretimin 2027’de artacağını söyledi. OpenAI, Jalapeño’yu kendi sohbet ve uygulama arayüzü hizmetlerinde kullanmayı planlıyor. Nvidia ve AMD’nin yerini tamamen almasını beklemiyor; eğitim ve programlanabilir hesap için bu ortaklardan alım sürecek. OpenAI ikinci ve üçüncü kuşağı da hazırladığını söyledi. Şirket, çıkarımın eğitimden farklı bir darboğaz olduğunu ve bellek ile ağ gecikmesinin maliyeti belirlediğini savundu.
Ölçüm 2024 ve 2025’te çıkan Blackwell raflarına bakıyor. 2027’de devreye girecek Rubin ve benzeri eğitim-çıkarım karışımı çipler henüz karşılaştırmada yok. Karşılaştırma, taslak model ile hızlandıran spekülatif çözümme yöntemini de dışarıda bırakıyor. Rakamlar şirketin kendi test paketinden geliyor; bağımsız bir laboratuvar tekrarı henüz yok. Ho, Jalapeño’nun maliyet ve hız arasında seçim dayatmak yerine ikisini birden verdiğini savundu. Karşılaştırma, şirketin seçtiği üç açık model ve kendi ölçüm paketinde kaldı.