Hace pocos días Google dio a conocer mediante una publicación de blog el lanzamiento de Coral NPU, una plataforma de código abierto que combina un acelerador de hardware especializado para IA con un completo conjunto de herramientas de software.
Coral NPU emerge como una arquitectura pionera, concebida en una estrecha colaboración entre Google Research y Google DeepMind. Este esfuerzo conjunto ha dado como resultado un diseño que sitúa la Inteligencia Artificial en el centro, marcando un hito en el desarrollo de la próxima generación de sistemas de IA de borde (edge AI).
Coral NPU: una arquitectura que prioriza la IA
El principio fundamental que rige el diseño de la Coral NPU es la capacidad de mantener la IA operativa de forma ininterrumpida con un consumo energético mínimo, es por ello que Coral NPU está diseñada para ejecutar aplicaciones de IA de manera continua sin comprometer la autonomía energética de los dispositivos. Su versión base alcanza un rendimiento de 512 mil millones de operaciones por segundo (GOPS) con apenas unos milivatios de consumo, una cifra notablemente baja en comparación con otros aceleradores del mercado.
Esta arquitectura ha sido meticulosamente optimizada para habilitar soluciones de IA que funcionan durante todo el día en el segmento de dispositivos portátiles (wearables) y otros equipos sensibles a la autonomía.
Además, su arquitectura permite a los fabricantes adaptar y modificar el diseño según las necesidades de sus propios sistemas en chip (SoC). La compañía Synaptics será la primera en integrar esta tecnología en su nueva serie de procesadores Astra SL2610, pensada para dispositivos IoT, incorporando el subsistema Torq NPU basado en Coral.
La flexibilidad y eficiencia de Coral NPU la convierten en una herramienta ideal para tareas de procesamiento de imágenes, audio y reconocimiento. Entre las aplicaciones más destacadas se encuentran la reconstrucción visual, el reconocimiento facial y de objetos, la traducción y transcripción en tiempo real, así como el control por gestos o voz. También puede detectar la actividad del usuario (como caminar, correr o dormir) y adaptarse al entorno físico en el que se encuentra.
Gracias a estas capacidades, Coral NPU promete habilitar una nueva generación de dispositivos inteligentes de consumo, como relojes, auriculares o gafas de realidad aumentada, capaces de ejecutar IA avanzada directamente en el dispositivo sin depender de la nube.
Potencia técnica impulsada por RISC-V
El corazón de Coral NPU se basa en la arquitectura RISC-V RV32IMF_Zve32x de 32 bits, acompañada de un bus AXI4 y un pipeline de cuatro etapas que permite una ejecución eficiente de instrucciones. Su diseño combina despacho en orden y finalización fuera de orden, con un enfoque escalar y vectorial para equilibrar rendimiento y eficiencia.
El sistema ofrece operaciones SIMD para el procesamiento paralelo de datos en vectores de 128 bits, junto con 8 KB de memoria de instrucciones y 32 KB de memoria de datos. Esta configuración se complementa con tres componentes principales:
- Un núcleo escalar RISC-V, programable en C, encargado de la gestión de flujos de datos y del consumo ultrabajo.
- Un coprocesador vectorial SIMD, compatible con las extensiones RVV v1.0, diseñado para manejar grandes volúmenes de información en paralelo.
- Un coprocesador matricial, optimizado para acelerar las operaciones de multiplicación y suma (MAC) esenciales en redes neuronales.
Ecosistema de desarrollo abierto y compatible
Google ha acompañado el lanzamiento de Coral NPU con un entorno completo de desarrollo que incluye compiladores de modelos de IA (IREE y TFLM), un compilador de C y un simulador para desarrolladores.
La NPU es compatible con los frameworks más populares de IA, como TensorFlow, JAX y PyTorch, y permite compilar modelos hacia una representación intermedia universal, la cual se traduce finalmente a instrucciones RISC-V mediante el backend LLVM.
Con esta iniciativa, Google no solo impulsa la adopción de hardware abierto para IA, sino que sienta las bases de un ecosistema colaborativo donde fabricantes, desarrolladores y la comunidad open source puedan innovar sobre una plataforma común.
Si estás interesado en poder conocer más al respecto, debes saber que este proyecto, bajo licencia Apache 2.0, y puedes consultarla documentación y herramientas que ofrece Google para los desarrolladores y diseñadores.
Continúar leyendo...