Con nombre en código Hala Point, este sistema a gran escala, implementado inicialmente en Sandia National Laboratories, utiliza el procesador Loihi 2 de Intel, tiene como objetivo apoyar la investigación para la futura inteligencia artificial (IA) inspirada en el cerebro y aborda los desafíos relacionados con la eficiencia y la sostenibilidad de la IA actual. Este hará avanzar el sistema de investigación a gran escala de primera generación de Intel, Pohoiki Springs, con mejoras arquitectónicas para lograr más de 10 veces más capacidad neuronal y hasta 12 veces más desempeño.
Hala Point es el primer sistema neuromórfico a gran escala que demuestra eficiencias computacionales de vanguardia en cargas de trabajo de IA convencionales. La caracterización muestra que puede soportar hasta 20 cuatrillones de operaciones por segundo, o 20 petaops, con una eficiencia superior a 15 billones de operaciones de 8 bits por segundo por vatio (TOPS/W) cuando se ejecutan redes neuronales profundas convencionales. Esto rivaliza y supera los niveles alcanzados por las arquitecturas construidas sobre unidades de procesamiento gráfico (GPU) y unidades de procesamiento central (CPU). Las capacidades únicas de este sistema podrían permitir el aprendizaje continuo en tiempo real futuro para aplicaciones de IA como resolución de problemas científicos y de ingeniería, logística, gestión de infraestructura de ciudades inteligentes, modelos de lenguaje grandes (LLM) y agentes de inteligencia artificial.
Los investigadores de Sandia National Laboratories planean usar Hala Point para la investigación avanzada de computación a escala cerebral. La organización se centrará en resolver problemas informáticos científicos en física de dispositivos, arquitectura de computadoras, ciencias de la computación e informática.
Hala Point es un prototipo de investigación que avanzará en las capacidades de los futuros sistemas comerciales. Intel anticipa que tales lecciones conducirán a avances prácticos, como la capacidad de los LLM para aprender continuamente de los nuevos datos. Estos avances prometen reducir significativamente la carga de capacitación no sostenible de las implementaciones generalizadas de IA.
Hala Point integra canales de procesamiento, memoria y comunicación en un tejido masivamente paralelizado, lo que proporciona un total de 16 petabytes por segundo (PB/s) de ancho de banda de memoria, 3,5 PB/s de ancho de banda de comunicación entre núcleos y 5 terabytes por segundo (TB/s) de ancho de banda de comunicación entre chips. El sistema puede procesar más de 380 billones de sinapsis de 8 bits y más de 240 billones de operaciones neuronales por segundo.
Aplicado a modelos de redes neuronales bioinspiradas, el sistema puede ejecutar su capacidad total de 1.150 millones de neuronas 20 veces más rápido que un cerebro humano y velocidades hasta 200 veces más rápidas a una capacidad menor. Si bien Hala Point no está destinado al modelado de la neurociencia, su capacidad neuronal es aproximadamente equivalente a la de un cerebro de búho o la corteza de un mono capuchino.
