Al observar una creciente demanda de inteligencia artificial (IA) que pueda ejecutarse en dispositivos de borde con microcontroladores (MCU) y microprocesadores (MPU), NXP Semiconductors ha presentado herramientas para permitir a los desarrolladores implementar y utilizar IA en un espectro de procesadores de borde.
La firma de tecnología de infraestructura automotriz, industrial, móvil y de comunicaciones cree que la implementación de IA en el borde ofrece varios beneficios, incluida una menor latencia, un menor consumo de energía y una mayor privacidad de los datos. La expansión del eIQ Toolkit de NXP tiene como objetivo hacer que esas implementaciones sean más fáciles y rápidas, brindando a los desarrolladores acceso a una gama más amplia de tipos de modelos, desde IA generativa (GenAI), hasta modelos basados en series temporales y modelos basados en visión. Los usuarios también pueden implementar estos modelos en una gama más amplia de procesadores perimetrales.
La compañía ha agregado GenAI Flow con recuperación de generación aumentada (RAG), un método para ajustar de forma segura modelos con conocimiento de dominio específico y datos privados sin un costoso reentrenamiento del modelo original, para hacer que las aplicaciones GenAI sean accesibles en dispositivos de borde. Ha mejorado su software de desarrollo de aprendizaje automático eIQ Time Series Studio y eIQ AI y aprendizaje automático para facilitar la implementación y el uso de la IA en MCU pequeñas y MPU más grandes y potentes.
GenAI Flow proporcionará los componentes básicos para grandes modelos de lenguaje (LLM) que impulsan las soluciones GenAI. Diseñadas para usarse con MPU como la familia de procesadores de aplicaciones i.MX de NXP, se dice que las soluciones GenAI facilitan la implementación de inteligencia en el borde al entrenar grandes modelos de lenguaje (LLM) en datos contextuales específicos.
Por ejemplo, un electrodoméstico equipado con un LLM capacitado en el manual del usuario podría conversar con un usuario en lenguaje natural sobre cómo acceder a funciones, realizar tareas u optimizar el uso y el mantenimiento.
eIQ Time Series Studio está diseñado para simplificar y acelerar el desarrollo y la implementación de modelos de IA basados en series temporales. Las aplicaciones y casos de uso de ejemplo incluyen la detección de anomalías, como la detección de flujos/fugas de agua y el monitoreo de la temperatura; mantenimiento predictivo para aspectos como el estado de la máquina y los modos de funcionamiento, y eventos acústicos como alarmas de humo; regresión con previsión de la demanda energética y optimización del control de temperatura del edificio.
eIQ Time Series Studio presenta un flujo de trabajo de aprendizaje automático automatizado que agiliza el desarrollo y la implementación de modelos de aprendizaje automático basados en series temporales en dispositivos de clase MCU, como la cartera de MCU MCX o la cartera de MCU cruzadas i.MX RT.
“La IA es la clave para un mundo que anticipa y automatiza en función de los deseos y necesidades de los usuarios, pero debe desarrollarse de una manera que sea práctica para la implementación de borde”, dijo Charles Dachs, vicepresidente senior y director general de industria e IoT. en Semiconductores NXP.
“Con herramientas listas para usar adecuadas tanto para modelos pequeños de IA en MCU como la cartera MCX, MCU cruzadas como la i.MX RT700, así como modelos de IA generativa más grandes que se ejecutan en dispositivos más potentes como las aplicaciones i.MX 95 procesador, NXP ofrece una variedad incomparable de opciones para los desarrolladores en todo el espectro de modelos de IA y procesadores de borde habilitados para IA. NXP está haciendo que la IA de vanguardia sea realmente práctica para los desarrolladores en una amplia gama de mercados”.