La integración de HBM-PIM con el sistema acelerador Xilinx Alveo AI aumentará el rendimiento general del sistema en 2.5 veces al tiempo que reduce el consumo de energía en más del 60%.
La arquitectura PIM se implementará ampliamente más allá de HBM, para incluir módulos DRAM convencionales y memoria móvil.
Samsung Electronics, líder mundial en tecnología de memoria avanzada, presentó sus últimos avances con tecnología de procesamiento en memoria (PIM) en Hot Chips 33, una conferencia de semiconductores líder en la que cada año se presentan las innovaciones de microprocesadores e IC más notables. Las revelaciones de Samsung incluyen la primera integración exitosa de su memoria de alto ancho de banda habilitada para PIM (HBM-PIM) en un sistema acelerador comercializado y aplicaciones PIM ampliadas para abarcar módulos DRAM y memoria móvil, acelerando el movimiento hacia la convergencia de memoria y lógica.
En febrero, Samsung presentó el primer HBM-PIM (Aquabolt-XL) de la industria, que incorpora la función de procesamiento de IA en el HBM2 Aquabolt de Samsung, para mejorar el procesamiento de datos de alta velocidad en supercomputadoras y aplicaciones de IA. Desde entonces, el HBM-PIM se ha probado en el acelerador de inteligencia artificial Xilinx Virtex Ultrascale + (Alveo), donde proporcionó una ganancia de rendimiento del sistema de casi 2,5 veces, así como una reducción de más del 60% en el consumo de energía.
«HBM-PIM es la primera solución de memoria adaptada a la IA de la industria que se está probando en los sistemas aceleradores de IA de los clientes, lo que demuestra un enorme potencial comercial», dijo Nam Sung Kim, vicepresidente senior de Producto y Tecnología DRAM de Samsung Electronics. «A través de la estandarización de la tecnología, las aplicaciones serán numerosas, expandiéndose a HBM3 para supercomputadoras de próxima generación y aplicaciones de IA, e incluso a memoria móvil para IA en el dispositivo, así como para módulos de memoria utilizados en centros de datos».
«Xilinx ha estado colaborando con Samsung Electronics para habilitar soluciones de alto rendimiento para centros de datos, redes y aplicaciones de procesamiento de señales en tiempo real, comenzando con la familia Virtex UltraScale + HBM, y recientemente presentó nuestros nuevos y emocionantes productos de la serie Versal HBM», dijo Arun Varadarajan. Rajagopal, director senior de Planificación de productos de Xilinx, Inc. «Estamos encantados de continuar esta colaboración con Samsung mientras ayudamos a evaluar los sistemas HBM-PIM en función de su potencial para lograr importantes ganancias de rendimiento y eficiencia energética en aplicaciones de inteligencia artificial».
Módulos DRAM alimentados por PIM
El DIMM de aceleración (AXDIMM) lleva el procesamiento al propio módulo DRAM, minimizando el gran movimiento de datos entre la CPU y la DRAM para aumentar la eficiencia energética de los sistemas aceleradores de IA. Con un motor de inteligencia artificial integrado dentro del chip de búfer, el AXDIMM puede realizar el procesamiento paralelo de múltiples rangos de memoria (conjuntos de chips DRAM) en lugar de acceder solo a un rango a la vez, mejorando enormemente el rendimiento y la eficiencia del sistema. Dado que el módulo puede conservar su factor de forma DIMM tradicional, el AXDIMM facilita el reemplazo directo sin requerir modificaciones del sistema. Actualmente se está probando en servidores de clientes, el AXDIMM puede ofrecer aproximadamente el doble de rendimiento en aplicaciones de recomendación basadas en IA y una disminución del 40% en el uso de energía en todo el sistema.
«SAP ha estado colaborando continuamente con Samsung en sus tecnologías de memoria nuevas y emergentes para ofrecer un rendimiento óptimo en SAP HANA y ayudar a la aceleración de la base de datos», dijo Oliver Rebholz, director de investigación e innovación central de HANA en SAP. «Según las proyecciones de rendimiento y los posibles escenarios de integración, esperamos mejoras significativas de rendimiento para el sistema de gestión de bases de datos en memoria (IMDBMS) y una mayor eficiencia energética a través de la computación desagregada en AXDIMM. SAP busca continuar su colaboración con Samsung en esta área».
Memoria móvil que lleva la IA del centro de datos al dispositivo La tecnología de memoria móvil LPDDR5-PIM de Samsung puede proporcionar capacidades de inteligencia artificial independientes sin conectividad de centro de datos. Las pruebas de simulación han demostrado que el LPDDR5-PIM puede más que duplicar el rendimiento al tiempo que reduce el uso de energía en más del 60% cuando se usa en aplicaciones como reconocimiento de voz, traducción y chatbot.
Energizando el ecosistema
Samsung planea expandir su cartera de memorias AI trabajando con otros líderes de la industria para completar la estandarización de la plataforma PIM en la primera mitad de 2022. La compañía también continuará fomentando un ecosistema PIM altamente robusto para asegurar una amplia aplicabilidad en toda la memoria. mercado.
