Google lanserar TPU 8tx och TPU 8i Max

Google presenterade den 9 november två nya system i sin åttonde TPU-generation: TPU 8tx och TPU 8i Max. Enligt Google är det första gången företaget har levererat fyra TPU-system under ett och samma år.

Nyheterna är inte en ny chipgeneration. Enligt The Decoder bygger båda på befintligt kisel, med annan paketering, annat nätverk och annan minneskonfiguration kring samma processor. Google beskriver den modulära ansatsen som ett sätt att kunna ta fram nya hårdvaruvarianter på månader i stället för år, enligt The Decoder.

TPU 8tx riktar sig enligt The Decoder till företag och myndigheter som arbetar med konfidentiella data. Data krypteras normalt vid lagring och överföring men måste avkrypteras i minnet under bearbetning. The Decoder skriver att TPU 8tx ska hålla känsliga data krypterade även under bearbetning. Google själv beskriver systemet som avsett för säker inferens.

TPU 8i Max riktar sig enligt The Decoder till minneskrävande arbetslaster. Två chip placeras i ett enda paket, vilket enligt The Decoder dubblerar beräkningskraft och minne inom samma rack. Google beskriver varianten som avsedd för mycket stora kontexter.

Enligt The Decoder har Google nu nästan 100 externa TPU-kunder, och företaget positionerar allt tydligare sina egna chip som ett alternativ till Nvidias GPU:er. The Decoder nämner även programvaruverktyg som TorchTPU som ett sätt att sänka tröskeln för utvecklare.

The Information skriver att Google säger sig ha gjort chippen säkrare och rustade för tyngre arbetslaster, och att Googles växande chipverksamhet hotar att försvaga Nvidias grepp om AI-marknaden. Det är tidningens bedömning, inte ett uppmätt marknadsresultat.