Google, yapay zeka çalışmalarında devrim yaratacak yeni Trillium TPU (Tensor İşleme Birimi) serisini duyurdu. Trillium TPUs, üstün performansıyla Nvidia Blackwell GPU’larına güçlü bir alternatif sunuyor. Bu yenilik, hem maliyet-performans dengesi hem de enerji verimliliği açısından büyük avantajlar sağlıyor.
Trillium TPUs’un Öne Çıkan Özellikleri
Google, Trillium TPUs ile önceki nesillere göre önemli iyileştirmeler sunuyor. Trillium TPUs;
- Eğitim performansında 4 kat artış,
- Çıkarım hızında 3 kat iyileşme,
- Enerji verimliliğinde %67 artış,
- Her bir çip için tepe hesaplama performansında 4.7 kat artış,
- Yüksek Bant Genişlikli Bellek (HBM) kapasitesinde 2 kat artış,
- Çipler arası bağlantı (ICI) bant genişliğinde 2 kat artış,
- 100 bin Trillium çip ile tek bir Jupiter ağ kumaşı üzerinde işlem yapma kapasitesine sahip olacak.
Ayrıca, her dolar başına eğitim performansında 2.5 kat, çıkarım performansında ise 1.4 kat artış sağlıyor.
Google, Trillium TPUs ile GPT-3 gibi büyük dil modellerini eğitmek için benzersiz bir verimlilik sunuyor.
- 12 pod kullanılarak %99 ölçekleme verimliliği,
- 24 pod ile %94 ölçekleme verimliliği sağlanabiliyor.
Bu gelişmeler, Google’ın yapay zeka altyapısında global ölçekte lider konuma gelme hedefini güçlendiriyor.
Trillium TPUs, şu anda Kuzey Amerika (ABD Doğu), Avrupa (Batı) ve Asya (Kuzeydoğu) bölgelerinde kullanılabilir durumda. Ücretlendirme seçenekleri ise şu şekilde:
- Başlangıç fiyatı: $2.7000/çip-saat
- 1 yıllık taahhüt: $1.8900/çip-saat
- 3 yıllık taahhüt: $1.2200/çip-saat
Google, Trillium TPUs’u yapay zeka geliştiricileri için daha cazip hale getirmek adına yazılım katmanında da yenilikler yaptı. Bu yenilikler;
- XLA derleyici ve AI çerçeveleri (JAX, PyTorch, TensorFlow) optimize edildi.
- AI eğitim, ince ayar ve çıkarım süreçlerinde maliyet-performans dengesi geliştirildi.
Google Trillium TPUs, AI altyapısında devrim niteliğinde bir adım olarak görülüyor. Yüksek performansı, enerji verimliliği ve ölçeklenebilirliği sayesinde hem akademik hem de endüstriyel yapay zeka uygulamalarında öncü olacak.