TPU 8tx y TPU 8i Max: datos protegidos en uso

TPU 8tx y TPU 8i Max son los dos sistemas nuevos que Google presentó el lunes 9 de noviembre para completar su octava generación de procesadores de inteligencia artificial. Con ellos suma cuatro sistemas TPU en un solo año, una marca inédita en más de una década con estos chips.

El 8tx protege los datos mientras la IA los está procesando, justo en el momento en que la información queda abierta en memoria. El 8i Max junta dos chips en un solo paquete y duplica la memoria disponible para tareas con contextos enormes, de hasta un millón de tokens.

🔥 Tendencia

Instagram pone límites a adolescentes detectados por su IA

En abril, durante Google Cloud Next, la compañía había presentado los dos primeros sistemas de esta generación. El TPU 8t quedó para entrenar modelos gigantes y el TPU 8i para razonar en tiempo real. Google informó entonces un rendimiento de entrenamiento hasta 2,7 veces superior y una mejora del 80 % en la relación precio-rendimiento de las respuestas, frente a la generación anterior.

TPU 8tx: la cerradura puesta en el hardware

El TPU 8tx usa el mismo silicio del 8t y trabaja junto a procesadores AMD EPYC de quinta generación. La diferencia está en la seguridad: los datos sensibles y los pesos del modelo quedan protegidos y aislados dentro del hardware, incluso en pleno uso. Ese instante era el punto débil de casi todo sistema.

El sistema está pensado para empresas reguladas y gobiernos que mueven datos delicados: bancos, aseguradoras, hospitales, oficinas públicas. Google anunció una latencia hasta dos veces menor que la del 8t, con una pérdida de rendimiento casi nula, gracias a la red Boardfly de baja latencia.

Con esa máquina, un equipo puede ajustar un modelo con sus datos privados, reducirlo a una versión pequeña y entrenar agentes por refuerzo. Todo sin mudar la información de un clúster a otro, que es donde muchas fugas empiezan.

Para el lector dominicano el punto toca de cerca. Bancos, telefónicas y oficinas del Estado ya usan la nube con datos de clientes y ciudadanos, y la inversión de Google en la infraestructura digital dominicana empuja ese uso más. Cifrar el dato durante el cálculo deja de ser un lujo: es la condición para adoptar agentes de IA sin exponer expedientes.

TPU 8i Max: dos chips para contextos que no caben

El TPU 8i Max ataca otro problema. Cuando decenas de agentes trabajan a la vez sobre el código completo de un programa o sobre horas de video, la memoria se agota primero que la capacidad de cálculo.

Google juntó dos chips TPU 8i en un solo paquete y el resultado duplica el cómputo, la memoria SRAM y el ancho de banda de la memoria HBM frente al 8i. El paquete ocupa el mismo espacio en el armario de servidores, así que cada centro gana el doble de silicio por metro cuadrado y por vatio.

El software acompaña el anuncio. Google liberó TorchTPU como código abierto el mes pasado: el código de PyTorch y los modelos de Hugging Face corren directo en las TPU, sin reescribir programas.

También abrió TPU Sync, la capa que mueve el estado del modelo entre chips y almacenamiento, con cortes de más del 90 % en la latencia de transferencia de la memoria caché. Las TPU ya sirven a cerca de 100 clientes: laboratorios de IA, firmas de inversión, comercios y universidades.

El anuncio dejó huecos concretos. Google no publicó precios ni fecha exacta de disponibilidad. Amin Vahdat, responsable de tecnología de IA e infraestructura, dijo a Bloomberg que ambas configuraciones estarán disponibles en 2027.

Hasta que esos números salgan, lo confirmado es el orden de la familia: 8t para entrenar, 8i para razonar, 8tx para datos confidenciales y 8i Max para contextos gigantes. La pelea por el hardware de la IA ya no se gana con un chip más rápido: se gana protegiendo el dato mientras la máquina piensa.

Fuente: Google