DataStax, con sede en Texas, lanzó su plataforma de datos hiperconvergentes (HCDP) como una oferta lista para usar para clientes empresariales que desean crear bases de datos vectoriales para IA generativa interna (GenAI).
Los vectores son representaciones matemáticas de conceptos, palabras e imágenes utilizadas por los sistemas GenAI para permitir preguntas y comparaciones de conjuntos de datos para proporcionar resultados reveladores.
HCDP tiene como objetivo permitir a las empresas construir plataformas GenAI en sus propios centros de datos para que puedan utilizar la tecnología con sus propios datos privados. Una parte integral del lanzamiento son los microservicios de Nvidia y la capacidad de recuperación de generación aumentada (RAG).
HCDP no es una infraestructura hiperconvergente en el sentido de ser un dispositivo de hardware o un software combinado de almacenamiento y servidor, pero DataStax pretende que se implemente en forma de nube y virtual en el entorno del cliente.
DataStax comenzó en 2010 y tiene sus raíces en el espacio de bases de datos NoSQL. También proporciona la base de datos como servicio Astra DB basada en la nube y DataStax Enterprise (DSE) para implementaciones locales. La versión 6.9 de DSE llega junto con el lanzamiento de HCDP. Astra DB y DSE se basan en la base de datos Apache Cassandra NoSQL.
HCDP está dirigido a clientes que desean construir su propia infraestructura GenAI en sus instalaciones, dijo Bill McLane, director de tecnología de nube en DataStax.
“HCDP reúne capacidades de búsqueda de vectores e inteligencia artificial generativa para cargas de trabajo de datos empresariales autogestionadas”, dijo. “Por lo tanto, las empresas que quieran ofrecer servicios de IA generativa pero no quieran ejecutarlos en la nube pueden lograr el mismo tipo de objetivos que los servicios en la nube”.
McLane dijo que el producto está dirigido a empresas que desean administrar sus propios centros de datos y garantizar un control total sobre cómo se utilizan los datos en GenAI.
“Con esto en marcha, las empresas pueden utilizar la IA generativa con sus propios datos y grandes modelos de lenguaje, pero sin entregar esos datos a un tercero, donde no tienen control sobre cómo se utilizan esos datos en la práctica”, dijo McLane.
HCDP utiliza las capacidades de búsqueda y visualización de OpenSearch, así como Apache Pulsar, una plataforma de mensajería utilizada para crear canales de datos y cargar y distribuir datos.
El núcleo de la funcionalidad de HCDP y DataStax es el uso de vectores en GenAI, dijo McLane. “Los sistemas de IA generativa reúnen datos en respuesta a posibles preguntas basadas en consultas de búsqueda de vectores”, explicó. “Estas consultas se convierten en vectores (representaciones matemáticas de las palabras o conceptos involucrados) y luego se comparan con el conjunto de datos vectoriales existente que tiene la empresa. Luego, esta información se devuelve al modelo de lenguaje grande y se utiliza para preparar la respuesta para el usuario”.
Cualquier dato se puede convertir en vectores (catálogos de productos, historiales de clientes anteriores u otros registros de datos no estructurados) y se puede almacenar listo para su búsqueda.
Los clientes que quieran utilizar sus propios datos en un sistema GenAI que utilice una base de datos vectorial junto con su base de datos transaccional pueden transmitir nuevos datos para crear y actualizar datos vectoriales.
Esto puede ser adecuado para empresas que desean mantener el control de sus datos por razones de cumplimiento y seguridad, o aquellas que ya tienen instalaciones de bases de datos importantes y, por ejemplo, no desean migrar esos datos a la nube por costos.