Google Cloud lanza nuevos chips de IA personalizados para complementar a Nvidia

El miércoles, Google Cloud anunció su octava generación de chips de IA personalizados, también conocidos como unidades de procesamiento tensorial (TPU). Para esta nueva generación, la empresa está dividiendo el hardware en dos modelos distintos para manejar diferentes partes del flujo de trabajo de inteligencia artificial:

• TPU 8t: Un chip orientado específicamente al entrenamiento de modelos de IA.
• TPU 8i: Un chip dirigido a la inferencia, que se define como el uso continuo de modelos después de que los usuarios envían prompts.

Según Google Cloud, estos nuevos chips ofrecen mejoras significativas en rendimiento y eficiencia respecto a las generaciones anteriores. Las especificaciones incluyen:

• Hasta 3 veces más velocidad en el entrenamiento de modelos de IA.
• 80% mejor rendimiento por dólar.
• La capacidad de agrupar más de 1 millón de TPU para trabajar juntos en un solo clúster.

A pesar de estos desarrollos de hardware personalizado, Google no intenta reemplazar a Nvidia. En cambio, la empresa utiliza sus propios chips para complementar los sistemas basados en Nvidia que ofrece dentro de su infraestructura en la nube. Por ejemplo, Google promete que su nube tendrá disponible el chip más reciente de Nvidia, Vera Rubin, a finales de este año, asegurando que los clientes tengan acceso al hardware de Nvidia junto con las propias TPU de Google.

Esta estrategia de complementar el hardware de Nvidia en lugar de reemplazarlo es común entre los hiperescaladores (grandes proveedores de nube que construyen chips de IA), categoría que también incluye a Microsoft y Amazon. Aunque estos grandes proveedores de nube continúan expandiendo sus capacidades de silicio personalizado, siguen dependiendo del hardware de Nvidia para respaldar su infraestructura en la nube.

Además de alojar hardware de Nvidia, Google colabora directamente con el fabricante de chips. Ambas empresas trabajan para mejorar Falcon, una tecnología de redes basada en software. Google creó originalmente Falcon y lo lanzó como código abierto en 2023 bajo el Open Compute Project, una organización de hardware de centros de datos de código abierto. Este esfuerzo conjunto se centra en optimizar la tecnología de redes para sistemas que operan en la nube.

Los esfuerzos de silicio personalizado de Google no son un desarrollo reciente; la empresa lanzó su primera TPU en 2016. Sin embargo, Nvidia tiene actualmente una capitalización de mercado de casi USD 5 billones, lo que la convierte en un competidor formidable. El analista del mercado de chips Patrick Moorhead señaló que apostar en contra de Nvidia ha demostrado ser históricamente difícil, incluso mientras los grandes proveedores de nube continúan construyendo su propio hardware.

Por qué importa

Google está equilibrando sus propias ambiciones de silicio con la enorme presencia de mercado de Nvidia. Al ofrecer tanto sus propias TPU como los chips más recientes de Nvidia, Google asegura que su nube siga siendo un destino competitivo para las cargas de trabajo de IA, independientemente del hardware subyacente.