Google ajoute deux systèmes à sa famille de TPU de huitième génération : le TPU 8tx, conçu pour l’inférence sécurisée et confidentielle, et le TPU 8i Max, pensé pour de très grandes fenêtres de contexte. L’entreprise les a annoncés le 9 novembre et affirme présenter pour la première fois quatre systèmes TPU en une seule année.

Les TPU sont les processeurs sur mesure que Google conçoit pour l’IA. Ce n’est pas un gadget qu’on achète en magasin : la plupart des lecteurs les rencontrent indirectement, par les services infonuagiques et les applications qui s’appuient dessus. Ils déterminent pourtant la vitesse, la confidentialité et le coût de ces services.

Quels sont les quatre systèmes de cette génération ?

Google a dévoilé les TPU 8t et 8i à Google Cloud Next en avril. Les deux nouveaux systèmes en sont des variantes bâties sur les mêmes fondations.

  • **TPU 8t **: entraînement de grands modèles de fondation
  • **TPU 8i **: raisonnement en temps réel à faible latence
  • **TPU 8tx **: inférence sécurisée et confidentielle, aussi adapté à l’entraînement à petite échelle
  • **TPU 8i Max **: très grandes fenêtres de contexte et la plus haute densité de calcul par baie

Pour les deux premiers, Google revendique jusqu’à 2,7 fois plus de performance d’entraînement (8t) et 80 % de meilleur rapport prix-performance en inférence (8i) par rapport à la génération précédente. Elle ajoute que le 8i réduit de moitié, au maximum, les délais de communication entre puces.

Que fait le TPU 8tx ?

Le TPU 8tx vise les entreprises réglementées et les gouvernements qui font passer des données sensibles dans des modèles de pointe ou propriétaires.

  • Bâti sur le même silicium que le TPU 8t
  • Associé à des hôtes dotés de processeurs AMD EPYC de 5e génération
  • Utilise le réseau à faible latence Boardfly, créé d’abord pour le TPU 8i
  • Jusqu’à 2x moins de latence que le TPU 8t, avec une perte de performance quasi nulle, selon Google

Les données sont d’ordinaire chiffrées au repos et sur le réseau, mais doivent être déverrouillées en mémoire pendant le traitement. Selon Google, le 8tx intègre la protection dans le matériel : les données sensibles et les poids du modèle restent isolés même en cours d’utilisation. Comme il combine puissance de calcul d’entraînement et réseau rapide, un même système peut exécuter un modèle et l’adapter.

Que fait le TPU 8i Max ?

Le TPU 8i Max réunit deux puces TPU 8i sur un seul boîtier.

  • Le double de calcul du TPU 8i
  • Le double de SRAM
  • Le double de bande passante HBM
  • Tient dans l’encombrement de baie existant

Le raisonnement de Google : quand de nombreux agents logiciels travaillent sur tout un code source ou des heures de vidéo, la bande passante mémoire devient le goulot d’étranglement. Deux fois plus de silicium dans le même espace permet, selon l’entreprise, de gagner en puissance par pied carré et par watt.

Les TPU sont-ils plus faciles à utiliser pour les développeurs ?

Google dit avoir levé plusieurs obstacles. Le mois dernier, elle a ouvert le code de TorchTPU : le code PyTorch et les modèles Hugging Face tournent nativement sur les TPU, avec des moteurs d’inférence comme vLLM et SGLang. Une suite d’agents TPU libre, en préversion, se branche à des outils de programmation comme Cursor pour faciliter la prise en main et l’optimisation. Google a aussi ouvert TPU Sync, qui réduit de plus de 90 % la latence de transfert du cache KV et le délai avant le premier jeton, et annonce un Agent Compute Engine qui suspend les sessions d’agents inactives pour réduire les coûts. Les TPU comptent près de 100 clients : laboratoires de pointe, sociétés de négociation, détaillants, universités.

Prix

Google n’indique ni prix ni date de sortie pour les TPU 8tx et 8i Max. Les TPU se vendent en capacité infonuagique, et les clients peuvent aussi les déployer dans leurs propres centres de données : il n’y a donc pas de prix de détail. Pour les 8t et 8i, TechRadar rapportait une disponibilité générale chez Google Cloud attendue dans les prochains mois.

À qui s’adresse-t-il ?

Organisations réglementées. Banques, groupes de santé et organismes publics qui doivent protéger leurs données pendant qu’un modèle les traite : c’est la cible du TPU 8tx.

Équipes à long contexte. Les entreprises qui font tourner de nombreux agents sur de vastes bases de code ou de longues vidéos sont le cas d’usage du TPU 8i Max.

Développeurs PyTorch. Avec TorchTPU, le code existant et les modèles Hugging Face peuvent tourner sur des TPU sans réécriture, selon Google.

Lecteurs ordinaires. Vous n’achèterez pas ces puces, mais elles peuvent se trouver derrière les outils infonuagiques que vous utilisez : des serveurs plus rapides et plus confidentiels pourraient se traduire plus tard par de meilleurs services.

Qu’est-ce qui reste inconnu ?

Google n’a pas donné de date de lancement, de disponibilité régionale ni de prix pour les deux nouveaux systèmes, et n’a publié aucun résultat de test face à la concurrence. Surveillez les pages d’infrastructure de Google Cloud pour ces précisions.