El desarrollo de aplicaciones que aprovecha la inteligencia artificial generativa (GenAI) podría democratizar la codificación y potencialmente liberar recursos, pero las organizaciones deben gestionar cuidadosamente a los contribuyentes sin experiencia previa en codificación.
Según Jon Puleston, vicepresidente de innovación en la división de perfiles de Kantar, incluso una persona sintética precisa basada en un conjunto de datos de 25.000 personas reales que contiene 250 variables demográficas predictivas puede dar resultados “muy erráticos” incluso a preguntas simples, como ‘¿Tienes un perro?’.
“En nuestro experimento, esto solo se pudo predecir con un 75% de precisión, incluso utilizando la inteligencia artificial y el aprendizaje automático más avanzados. [ML] técnica que aplicamos, frente a una probabilidad del 52% según nuestros datos demográficos”, dice Puleston. “Esto pone de relieve la gran cantidad de datos necesarios para que los modelos de datos sintéticos sean lo suficientemente precisos para un uso comercial generalizado. Al tomar una decisión empresarial que vale miles de millones de dólares, existen riesgos”.
El experimento de Kantar sugiere que las complejidades van en contra de hablar de “desarrolladores ciudadanos” cuando se trata del surgimiento de herramientas de inteligencia artificial generativa de lenguaje natural en particular, y Puleston agrega: “Los conocimientos humanos reales siguen siendo el corazón de una buena investigación de mercado”.
Después de todo, el contexto detallado de cualquier actividad determinada a menudo puede resultar crucial. Patear una pelota de fútbol entre los postes es, en principio, un acto sencillo, pero se necesitan años de práctica para hacerlo bien y de forma fiable.
Leslie Kanthan, directora ejecutiva y cofundadora de la empresa de optimización de código TurinTech, dice que a los incautos les esperan trampas, incluso si una organización tiene sus propios conjuntos de datos listos para usar. “Interactuar con el código de IA y las aplicaciones internas es bueno porque hace que las personas utilicen estas cosas de vanguardia, lo que permite la generación de ideas y la creatividad. Pero está la gestión de eso”, dice Kanthan.
Si crea una aplicación con conjuntos de datos confidenciales, por ejemplo, sin experiencia en codificación, será difícil justificar ante los reguladores y el cumplimiento exactamente lo que la aplicación hace y no hace.
“Solo decir que usted creó una aplicación y resuelve este problema no es suficiente para los reguladores”, dice Kanthan. “Necesitan saber que los datos se mantienen correctamente, etc.”.
Dicho esto, GenAI puede ayudar a los desarrolladores junior durante uno o dos años a mejorar su ventaja, y el desarrollo podría ampliarse a contribuciones más amplias, recordando al mismo tiempo la necesidad de pruebas, revisiones y adopción sólidas por parte de los usuarios a medida que avanzan las herramientas.
No olvidemos que un código más limpio puede ser más sostenible y consumir menos recursos, incluida la energía, añade Kanthan. “Ahora mismo, piensa en [GenAI] de modo realista. Aún pasarán algunos años antes de que tengamos un uso aplicativo sólido incluso para los usos más avanzados”, afirma. “Necesitas saber exactamente lo que estás haciendo”.
Pregunte qué aporta exactamente a la empresa y cómo utilizarlo. La GenAI actual se utiliza mejor como asistente de la experiencia, no como sustituto de ella, y como desarrollo de controles, equilibrios y gobernanza adecuados en cada caso de uso. “Sepa lo que ha creado y cómo ha podido justificarlo”, añade Kanthan.
Kjell Carlsson, jefe de estrategia de IA en Domino Data Lab, señala que ofertas como Amazon Q, consideradas accesibles para no programadores, normalmente tendrán un uso limitado. La pregunta no es si se necesitan habilidades para usar una herramienta, sino ¿puede realmente usarla con buenos resultados? Una regla general es, por el contrario, que necesitarás “mejorar a tus humanos”.
Compare el desafío con el uso de macros de Visual Basic o Excel, por ejemplo: requieren habilidad o experiencia técnica. ¿Y qué pasa con la documentación?
En empresas con menos recursos, donde los desarrolladores menos experimentados podrían adoptar ChatGPT, por ejemplo, para crear aplicaciones, realmente no se puede tener “mucha” confianza en la calidad de los resultados, confirma Carlsson.
“Se necesita mucha comprensión por parte del usuario final para saber qué aspecto tiene lo bueno”, afirma. “Puede ser una excelente manera de ponerse al día rápidamente y hacer cosas estándar. No si es una tarea para la que normalmente usas SQL o, Dios no lo quiera, COBOL”.
‘Cualquiera puede codificar’
Gavin Harcourt, líder de ingeniería en la plataforma de inteligencia de marketing Streetbees, dice que su experiencia con GenAI, trabajando en el diseño, descubrimiento e implementación temprana de productos, destacó el mito de que “cualquiera puede codificar”.
“Con estas demostraciones de, digamos, Amazon Q, tengo mucho escepticismo: aprendimos que hay que invertir”, dice Harcourt. “Contamos con equipos de personas que esquematizan, traducen físicamente su experiencia en investigación de mercado y más”.
Shaf Shajahan, director de productos de IA de Streetbees, añade: “Eso incluye dos empleados y medio dedicados exclusivamente a traducir problemas complejos de investigación de mercado en bibliotecas de datos, como consultores de estrategia que aprenden a navegar por esquemas de datos complejos. Necesitas marketing, estrategia y tecnología juntos, y gente dedicada a la ingeniería”.
GenAI evolucionará y los modelos de lenguajes grandes (LLM) se generalizarán con el tiempo. Sin embargo, incluso con “un elemento de calidad y rendimiento” que casi cualquiera puede ofrecer, probablemente eso no sea óptimo, señala Shajahan.
“Su diferenciador clave será que no se trata sólo de una fina envoltura alrededor de un LLM principal, sino de la calidad de su producto o su producción, que ha sido diseñado y desarrollado por expertos en el campo”, señala Shajahan.
Hans de Visser, director de producto (CPO) del proveedor de plataformas de desarrollo de código bajo Mendix, dice que dividen el desarrollo asistido por IA, que consiste en insertar servicios de IA para sus desarrolladores que trabajan en su plataforma para aumentar su productividad, de las aplicaciones aumentadas por IA. que integran servicios de IA en aplicaciones más inteligentes creadas por el desarrollador.
Las políticas, la práctica y la gobernanza específicas de los requisitos son primordiales. Algunos clientes buscan un “giro a la izquierda” en parte con miras a reducir la carga de trabajo en los equipos más técnicos y dar a los trabajadores más control sobre su propio destino. “Pero piense en el tipo de aplicación de la que está hablando y qué plataforma es adecuada para soportarla”, dice Visser.
Examine el ámbito, alcance y criticidad de los grupos de trabajo individuales, departamentos y la empresa frente a la complejidad de las aplicaciones. Si genera un dominio visual o un modelo de datos que puede ver completamente, debería poder validar los resultados y si se aplican a la página o al flujo de trabajo relevante generado.
Piense en el “jardín amurallado” de Microsoft PowerApps, que en su forma más simple puede tener SharePoint y Excel como meras fuentes para conectar datos. En torno a eso, puede crear una interfaz de usuario, una lista de verificación o un flujo de trabajo muy simple para recordatorios de aprobación o similares.
“Si lo mantienes dentro de ese límite y puedes gobernarlo, podrías estar totalmente bien para los desarrolladores ciudadanos y utilizar los tipos de funciones de IA en esa plataforma en particular”, dice Visser.
Para aplicaciones departamentales más sofisticadas, la incorporación de servicios GenAI aumentará la productividad de todos modos a través de la abstracción y la automatización.
“Considere qué tipo de funciones GenAI otorgaría a qué tipo de desarrollador. Si tiene GenAI basado en código, obtendrá código generado. Si nunca han creado una aplicación, normalmente no pueden entender lo que sucede detrás de escena”, señala Visser.
Melvyn White, arquitecto empresarial principal de IA/ML en BT Group, está ampliamente de acuerdo con la necesidad de hacer coincidir la llamada democratización con un desarrollo restringido a un cierto nivel de experiencia, en espera de una rápida evolución tecnológica y de la necesidad de las organizaciones de seguir el ritmo.
“Abrir la IA a las masas es, en muchos sentidos, algo bueno”, afirma White, señalando que, en cierto modo, se puede considerar la GenAI como el siguiente paso después del uso del lenguaje de modelado unificado (UML) como acelerador.
“Mis amigos que programan todos los días usan LLM, pero son muy buenos programadores por derecho propio. Mejora su productividad hasta cierto punto, pero aún tienen que sumergirse y hacer ajustes y cambios. Saben lo que están haciendo”.