DDN, que se hizo un nombre en la computación de alto rendimiento (HPC), obtuvo una inversión de 300 millones de dólares del fondo estadounidense Blackstone, que, según dice, se utilizará para traducir el liderazgo en supercomputación en soluciones de almacenamiento para inteligencia artificial (IA).
Si bien los arreglos destinados a las dos cargas de trabajo son similares en cuanto a su capacidad de mantenerse al día con un procesamiento de rendimiento extremadamente alto, existen diferencias. Las cargas de trabajo de HPC implican leer una cantidad relativamente pequeña de formulaciones matemáticas para producir enormes cantidades de datos de simulación.
En la IA, es todo lo contrario. Se lee una gran cantidad de datos para producir un modelo relativamente pequeño durante el entrenamiento o para generar una respuesta a una aplicación o un mensaje humano durante la inferencia.
DDN EXAscaler se adapta a la IA
DDN vende sus matrices EXAscaler en el mercado de HPC. Utilizan el sistema de archivos paralelo Lustre, que es de código abierto y se lanzó por primera vez hace unas dos décadas. Una matriz EXAscaler consta de varias unidades de disco, una de las cuales actúa como índice del contenido de las demás. Los nodos informáticos interrogan a ese nodo para averiguar en cuál de los demás leer y escribir bloques de datos y luego se comunican directamente con ese nodo.
Para funcionar, los nodos de computación deben ejecutar un cliente Lustre y tener una conexión de red directa con todos los nodos de almacenamiento. Esto generalmente significa una conexión Infiniband, sin pérdida de paquetes y con la capacidad del controlador de copiar datos directamente en la memoria de acceso aleatorio (RAM) o en el almacenamiento de memoria rápida no volátil (NVMe) en la máquina host.
DDN ha incluido esta funcionalidad en sus matrices AI400X2, que están dirigidas a cargas de trabajo de IA. Usan los mismos nodos 2U que en EXAscaler, pero usan tarjetas controladoras Nvidia Ethernet SpectrumX. Estos utilizan una DPU BlueField de Nvidia y brindan a las redes Ethernet los mismos beneficios que se encuentran en Infiniband. Su uso de RDMA sobre Ethernet convergente (RoCE) también significa que no se pierden paquetes con escrituras de datos en la memoria de la unidad de procesamiento de gráficos (GPU) de Nvidia directamente (usando GPUdirect).
Almacenamiento DDN para datos de entrenamiento
El AI400X2 está diseñado principalmente para comunicarse lo más rápido posible con las GPU durante las cargas de trabajo de entrenamiento. Pero son potencialmente una opción muy costosa para almacenar enormes cantidades de datos que una empresa podría querer almacenar a partir de modelos que ya han sido entrenados.
Para ello, DDN cuenta con sus arreglos Infinia desde 2023. Estos brindan almacenamiento de objetos S3 con la capacidad de agregar unidades de forma no disruptiva.
DNN ha descargado funciones de almacenamiento de S3 a contenedores, como el servidor de metadatos, el servidor de almacenamiento, etc. Esto significa que DDN puede reproducir en Infinia una funcionalidad similar a Lustre cuando se implementan contenedores S3 específicos en los nodos de computación. Los arreglos Infinia también pueden equiparse con tarjetas SpectrumX para maximizar las velocidades de transferencia.
DNN afirma saber mejor que nadie cómo funciona el almacenamiento intensivo. Cuando las GPU escriben datos en paralelo y luego los leen rápidamente, pueden surgir problemas de incoherencia. Los puntos de control regulan esto, pero es una operación que consume muchos recursos durante el procesamiento y no produce datos útiles. DDN dice que puede evitar tales retrasos administrando cuidadosamente los flujos de datos y el uso del almacenamiento en caché.
Se acerca un gran anuncio, dice DDN
DDN ya tiene participación en el juego de la IA, y entre sus clientes se encuentra xAI de Elon Musk, que ha implementado una supercomputadora llamada Colossus con 100.000 GPU H100. Así pues, el propósito de los nuevos 300 millones de dólares no está del todo claro.
Es probable que Blackstone se esté posicionando en varias empresas centradas en la IA y ahora tiene un miembro en la junta directiva de DDN. El año pasado, el fondo ofreció apoyo financiero a CoreWeave, un proveedor de infraestructura como servicio centrada en IA.
DDN promete un anuncio importante el 20 de febrero, precedido por el lema: “Estamos haciendo que la IA sea real”.