TPU y NPU: impulsando la próxima generación de computadoras con inteligencia artificial

A medida que la inteligencia artificial (IA) sigue ampliando los límites de lo que las computadoras pueden aprender y lograr, también pone a prueba los límites de los componentes tradicionales de las PC.

“El mercado de computadoras y hardware habilitado para IA está experimentando un fuerte crecimiento debido a la creciente demanda de procesamiento de datos, aprendizaje automático y otras aplicaciones de IA en diversos sectores. Acer ve un futuro prometedor y de rápido crecimiento para el segmento de computadoras con inteligencia artificial (IA)”, asegura Caroline Raimundo, directora de Marketing LATAM para Acer.

Las tareas de IA solían realizarse en Unidades Centrales de Procesamiento (CPUs) de propósito general, pero, aunque las CPUs son versátiles y capaces de manejar una amplia gama de tareas, no están optimizadas para los cálculos complejos y el procesamiento de datos que requieren las aplicaciones de IA. Esto llevó al desarrollo de hardware especializado con potencia de procesamiento diseñada específicamente para cargas de trabajo de IA. Hoy, analizaremos dos de estas innovaciones: las Unidades de Procesamiento Tensorial (TPUs) y las Unidades de Procesamiento Neural (NPUs).

¿Qué son las TPUs y las NPUs?

Desarrolladas por Google, las TPUs son procesadores diseñados a medida específicamente para cálculos que involucran tensores, un bloque fundamental en los algoritmos de IA, particularmente en el aprendizaje profundo. Una TPU no tiene la versatilidad de una CPU, pero puede manejar un volumen mucho mayor de cálculos simples simultáneamente, lo que la hace significativamente más rápida para cargas de trabajo de IA específicas.

Por otro lado, las NPUs son una categoría más amplia de procesadores diseñados por varias compañías específicamente para acelerar aplicaciones de IA. Las NPUs no se enfocan únicamente en las operaciones tensoriales. Su objetivo es imitar la estructura y función del cerebro humano, permitiéndoles manejar una gama más amplia de algoritmos de IA más allá del aprendizaje profundo. Esto las hace más flexibles pero potencialmente menos eficientes que las TPUs para tareas específicas.

El rol de las TPUs y NPUs en las computadoras de IA

Las TPUs sobresalen en la ejecución de operaciones de multiplicación de matrices, que son comunes en los modelos de aprendizaje profundo. Pueden acelerar el entrenamiento y la inferencia de redes neuronales profundas, reduciendo significativamente el tiempo requerido para entrenar modelos complejos. Esta ventaja clave tiene profundas implicaciones para la investigación y desarrollo de IA, ya que permite a los investigadores experimentar con conjuntos de datos más grandes y arquitecturas más complejas, lo que conduce a modelos de IA más precisos y robustos.

Debido a su alta eficiencia para el aprendizaje profundo, las TPUs se utilizan extensamente en los servicios en la nube de Google para tareas de IA a gran escala, como el reconocimiento de imágenes, la traducción de idiomas y el procesamiento del lenguaje natural. Son ideales para centros de datos donde el consumo de energía y la velocidad de procesamiento son cruciales. Google utiliza TPUs para alimentar sus diversos servicios de IA, como Google Fotos, Google Translate y Google Assistant, permitiendo experiencias de usuario sin interrupciones en su ecosistema de productos.

Mientras que las TPUs están diseñadas para manejar operaciones tensoriales, las NPUs están optimizadas para ejecutar cálculos de redes neuronales. Ofreciendo alta densidad computacional, bajo consumo de energía y mayor funcionalidad, las NPUs están cada vez más presentes en varios dispositivos impulsados por IA. Por ejemplo, en los smartphones, las NPUs habilitan funciones como el reconocimiento facial y el aprendizaje automático en el dispositivo. También se utilizan en dispositivos inteligentes para el hogar, robots y automóviles autónomos, donde el procesamiento en tiempo real de IA es esencial. Al descargar los cálculos de IA a las NPUs, estos dispositivos pueden ofrecer características y servicios inteligentes sin depender del procesamiento en la nube, mejorando la privacidad del usuario y reduciendo la latencia.

Las NPUs también pueden integrarse directamente en una CPU como un componente de hardware dedicado diseñado para acelerar los cálculos de IA. Por ejemplo, los procesadores Core Ultra de Intel cuentan con una NPU que trabaja junto con la CPU y la GPU. Esta configuración de tríada permite un procesamiento paralelo eficiente, aumentando significativamente el rendimiento general y la eficiencia energética para cargas de trabajo de IA. Las PCs con tales procesadores, como la Laptop Acer Swift Go 14, tienen capacidades mejoradas para manejar aplicaciones impulsadas por IA con mayor velocidad y menor consumo de energía.

Decidiendo entre TPUs y NPUs

Si eres un desarrollador que elige entre una TPU y una NPU para tu proyecto de IA, aquí tienes un resumen rápido que puede guiar tu decisión.

Enfoque y escala del proyecto:

Si tu proyecto se centra en gran medida en tareas de aprendizaje profundo y prioriza el rendimiento y la eficiencia bruta, una TPU puede ser tu mejor opción, especialmente para el entrenamiento a gran escala de modelos complejos. Las TPUs tienen la potencia de procesamiento para manejar conjuntos de datos masivos. Sin embargo, si tu proyecto es de menor escala o requiere funcionalidades de IA más amplias además del aprendizaje profundo, la versatilidad de una NPU podría ser más beneficiosa.

Restricciones de presupuesto:

Las TPUs suelen accederse a través de servicios en la nube, lo que puede ser costoso dependiendo de la escala del proyecto. Mientras tanto, las NPUs se están volviendo más asequibles y disponibles en dispositivos personales. Son una opción más económica para desarrolladores individuales o proyectos más pequeños.

El desarrollo de hardware de IA es un campo que evoluciona rápidamente. Tanto las TPUs como las NPUs están en constante mejora, con nuevas iteraciones que ofrecen mayor rendimiento y eficiencia. También están surgiendo nuevos tipos de hardware de IA, como las Arquitecturas Específicas de Dominio (DSAs) diseñadas para tareas específicas de IA. A medida que las aplicaciones de IA continúan diversificándose, podemos esperar una mayor especialización en el hardware de IA para satisfacer las necesidades únicas que surjan.