¿Está obteniendo resultados tangibles de su inversión en IA generativa o está empezando a parecer un experimento costoso?
Para muchos líderes e ingenieros de IA, resulta desafiante demostrar el valor empresarial a pesar de todo el arduo trabajo realizado. Según una encuesta reciente realizada por Omdia a más de 5000 profesionales de TI empresarial a nivel global, solo el 13% ha implementado por completo las tecnologías GenAI.
Haciendo referencia al estudio reciente de Deloitte, "La pregunta constante es: ¿Por qué es esto tan difícil?"
La respuesta es compleja, pero la complicación de depender de la infraestructura de datos del proveedor y las inversiones pasadas abandonadas son los principales culpables. De acuerdo con lo encontrado por Deloitte, al menos uno de cada tres programas de IA fracasa debido a problemas con los datos.
Si sus modelos GenAI no están siendo utilizados (o están subutilizados), es probable que no se hayan integrado con éxito en su infraestructura tecnológica. Esto hace que, para la mayoría de las marcas, GenAI se perciba más como una exacerbación de los mismos desafíos experimentados con la IA predictiva que como una solución.
Cualquier proyecto GenAI implica una diversidad de versiones, lenguajes, modelos y bases de datos vectoriales. Todos sabemos que reunir 17 herramientas de inteligencia artificial distintas y esperar lo mejor conlleva a una infraestructura caótica. Resulta ser complejo, lento, difícil de usar y arriesgado de administrar.
La falta de una capa de inteligencia unificada sobre su infraestructura central generará más problemas de los que intenta resolver, incluso si está utilizando un hiperescalador.
Por eso escribí este artículo, y por eso Brent Hinks y yo discutimos esto detenidamente durante un webinar reciente en línea.
Aquí presento seis estrategias que le ayudarán a cambiar el enfoque de la creación de prototipos a medio camino al valor del mundo real de GenAI.
Seis tácticas que reemplazan los problemas de infraestructura con el valor de GenAI
Incorporar IA generativa en sus sistemas existentes no es solo un asunto de infraestructura; es una cuestión de estrategia empresarial que distingue entre prototipos no realizados o fallidos y resultados sostenibles de GenAI.
No obstante, si ha dedicado tiempo a invertir en una capa de inteligencia unificada, podrá evitar desafíos innecesarios y trabajar con seguridad. La mayoría de las empresas se toparán con al menos algunos de los obstáculos que se describen a continuación. A continuación, presento mis recomendaciones sobre cómo convertir estos errores comunes en aceleradores del crecimiento:
1. Mantener la flexibilidad evitando la dependencia del proveedor
Muchas empresas que buscan mejorar la integración de GenAI en su ecosistema tecnológico se encuentran en una de dos situaciones:
- Quedan atrapadas en una relación con un hiperescalador o un proveedor único.
- Improvisan al azar varios componentes, como bases de datos vectoriales, modelos de incrustación, herramientas de orquestación y más.
Dado el rápido cambio en la IA generativa, no querrá quedar atrapado en ninguna de estas circunstancias. Debe mantener su flexibilidad para poder adaptarse rápidamente a medida que evolucionen las necesidades tecnológicas de su empresa o cambie el mercado tecnológico. ¿Mi sugerencia? Utilice un sistema API flexible.
DataRobot puede ayudarlo a integrarse con todos los principales actores, sí, pero lo que es aún mejor es cómo hemos diseñado nuestra plataforma para ser independiente de su tecnología existente y adaptarse a donde necesite que lo hagamos. Nuestra API flexible ofrece la funcionalidad y flexibilidad que necesita para unificar verdaderamente sus esfuerzos de GenAI en todo el ecosistema tecnológico existente que ha establecido.
2. Construir modelos independientes de la integración
Al igual que evita depender de un proveedor, no construya Modelos de IA que solo se integren con una única aplicación. Por ejemplo, supongamos que crea una aplicación para Slack, pero ahora desea que funcione con Gmail. Podría verse obligado a reconstruir todo desde cero.
En su lugar, intente crear modelos que puedan integrarse con múltiples plataformas distintas, lo que le proporcionará flexibilidad para futuros casos de uso. Esto no solo le ahorrará tiempo en el desarrollo inicial, sino que los modelos independientes de la plataforma también reducirán el tiempo de mantenimiento necesario al requerir menos integraciones personalizadas.
Con la capa de inteligencia adecuada, puede llevar la potencia de los modelos GenAI a una variedad de aplicaciones y usuarios. Esto le permite maximizar las inversiones que ha realizado en todo su ecosistema. Además, también podrá implementar y administrar cientos de modelos GenAI desde una ubicación central.
Por ejemplo, DataRobot podría integrar modelos GenAI que funcionen perfectamente en aplicaciones empresariales como Slack, Tableau, Salesforce y Microsoft Teams.
3. Integrar la IA generativa y predictiva en una experiencia unificada
Muchas empresas luchan contra el caos de la IA generativa debido a que sus modelos generativos y predictivos están dispersos y aislados. Para lograr una integración perfecta, necesita tener sus modelos de IA en un único repositorio, sin importar quién los creó ni dónde estén alojados.
DataRobot es ideal para esto; gran parte del valor de nuestro producto radica en nuestra capacidad de unificar la inteligencia de IA en toda una organización, especialmente en colaboración con hiperescaladores. Si ha desarrollado la mayoría de sus marcos de IA con un hiperescalador, somos la capa que necesita para agregar rigor y especificidad a la gobernanza, el monitoreo y la observabilidad de sus iniciativas.
Y esto no se limita solo a los modelos generativos o predictivos, sino que los modelos creados por cualquiera en cualquier plataforma pueden ser llevados para gobernanza y operación directamente en DataRobot.
4. Diseñe para facilitar el seguimiento y la reentrenamiento
Debido al ritmo de innovación con respecto a la inteligencia artificial generativa en el último año, muchos de los modelos que desarrollé hace seis meses ya se encuentran desactualizados. Para mantener mis modelos relevantes, priorizo el reentrenamiento, no solo de modelos predictivos de IA. GenAI también puede volverse obsoleto si los documentos fuente o los datos subyacentes están desactualizados.
Imagina que tienes docenas de modelos GenAI en producción. Estos podrían estar implementados en diversas ubicaciones, como Slack, aplicaciones para clientes o plataformas internas. Tarde o temprano, tus modelos necesitarán actualizaciones. Si solo tienes 1 o 2 modelos, puede que no sea una gran preocupación en este momento, pero si ya cuentas con un inventario, llevará mucho tiempo escalar manualmente las actualizaciones de implementación.
Las actualizaciones que no se realizan mediante una orquestación escalable están obstaculizando los resultados debido a la complejidad de la infraestructura. Esto es especialmente crítico cuando comienzas a pensar en el futuro, ya que las actualizaciones de GenAI generalmente requieren más mantenimiento que la IA predictiva.
DataRobot ofrece control de versión del modelo con pruebas integradas para garantizar que una implementación funcionará con las nuevas versiones de plataforma que se lancen en el futuro. Si una integración falla, recibirás una alerta para notificar sobre el error inmediatamente. También indicará si un nuevo conjunto de datos presenta características adicionales que difieren de las del modelo actualmente implementado. Esto permite a los ingenieros y desarrolladores ser mucho más proactivos a la hora de solucionar problemas, en lugar de descubrir un mes (o más) después que una integración no funciona.
Además del control del modelo, utilizo DataRobot para monitorear métricas como la deriva de los datos y la conectividad para mantener los costos de infraestructura bajo control. La realidad es que si se superan los presupuestos, los proyectos se cierran. Esto puede convertirse rápidamente en una situación en la que equipos completos se vean afectados porque no pueden controlar los costos. DataRobot me permite seguir las métricas relevantes para cada caso de uso, de modo que pueda mantenerme informado sobre los KPI comerciales que son importantes.
5. Mantente alineado con el liderazgo empresarial y tus usuarios finales
El mayor error que observo que cometen los profesionales de la IA es no comunicarse lo suficiente con las personas del negocio. Es crucial involucrar a las partes interesadas desde el principio y mantener conversaciones frecuentes con ellos. No se trata solo de entablar una conversación para preguntar a los líderes empresariales si estarían interesados en un caso de uso específico de GenAI. Debes reafirmar continuamente que todavía requieren el caso de uso y que todo en lo que estás trabajando aún satisface sus necesidades en evolución.
Hay tres componentes aquí:
- Involucra a tus usuarios de IA
Es fundamental asegurar la aceptación de los usuarios finales, no solo de la dirección. Antes de comenzar a desarrollar un nuevo modelo, habla con tus posibles usuarios finales y evalúa su nivel de interés. Ellos son los consumidores y necesitan estar de acuerdo con lo que estás creando para adaptarse. Consejo: asegúrate de que cualquier modelo GenAI que desarrolles pueda integrarse fácilmente con los procesos, soluciones e infraestructuras de datos existentes para los usuarios.
Dado que al final tus usuarios serán quienes decidan si actuar según el resultado de tu modelo, debes asegurarte de que confíen en lo que has creado. Antes o como parte de la implementación, habla con ellos sobre lo que has creado, cómo funciona y, lo más importante, cómo les ayudará a alcanzar sus objetivos.
- Involucra a las partes interesadas de tu negocio en el proceso de desarrollo
Incluso después de haber confirmado el interés inicial por parte de los líderes y los usuarios finales, nunca es recomendable simplemente desaparecer y luego regresar meses después con un producto terminado. Seguramente tus partes interesadas tendrán muchas preguntas y sugerencias de cambios. Sé colaborativo y dedica tiempo a recibir comentarios sobre tus proyectos. Esto te ayuda a desarrollar una aplicación que resuelva sus necesidades y les ayude a confiar en que funciona como ellos desean.
- Expresa con precisión lo que estás tratando de lograr
No es suficiente tener un objetivo como "Queremos integrar la plataforma X con la plataforma Y". He visto a muchos clientes obsesionados con objetivos a corto plazo como estos en lugar de dar un paso atrás para considerar objetivos generales. DataRobot proporciona suficiente flexibilidad para que podamos desarrollar una arquitectura general simplificada en lugar de enfocarnos únicamente en un único punto de integración. Debes ser específico: “Queremos que este modelo GenAI creado en DataRobot se integre con IA predictiva y datos de Salesforce. Y los resultados deben introducirse en este objeto de esta manera”.
De esta forma, todos pueden acordar el objetivo final y definir y medir fácilmente el éxito del proyecto.
6. Avanza más allá de la experimentación para generar valor temprano
Los equipos pueden dedicar semanas a construir e implementar modelos GenAI, pero si el proceso no está bien organizado, todos los desafíos habituales de gobernanza e infraestructura retrasarán el tiempo para obtener valor.
El experimento en sí mismo no aporta ningún valor: el modelo debe generar resultados (internos o externos). De lo contrario, simplemente habrá sido un "proyecto divertido" que no generará retorno de la inversión para la empresa. Eso es hasta que se implemente.
DataRobot puede ayudarte a poner en marcha modelos un 83% más rápido, al mismo tiempo que ahorras el 80% de los costes normales requeridos. Nuestra función de Parques infantiles brinda a tu equipo el espacio creativo para comparar diseños de LLM y determinar cuál es la mejor opción.
En lugar de hacer esperar a los usuarios finales hasta obtener una solución final o permitir que la competencia tome ventaja, comienza con un Producto Mínimo Viable (MVP).
Entrega un modelo básico a tus usuarios finales y explícales que se trata de un trabajo en proceso. Invítales a probar, ajustar y experimentar, y luego pedirles comentarios.
Un MVP ofrece dos beneficios vitales:
- Puedes confirmar que estás avanzando en la dirección correcta con lo que estás construyendo.
- Tus usuarios finales obtienen rápidamente valor de tus esfuerzos en inteligencia artificial generativa.
Aunque no puedas ofrecer una experiencia de usuario perfecta con tu integración en proceso, verás que tus usuarios finales estarán dispuestos a aceptar algo de fricción a corto plazo para experimentar el valor a largo plazo.
Desbloquea la integración perfecta de la IA generativa con DataRobot
Si estás teniendo dificultades para integrar GenAI en tu ecosistema tecnológico existente, DataRobot es la solución que necesitas. En lugar de una combinación de herramientas aisladas y activos de IA, nuestra plataforma de IA podría proporcionarte una visión unificada de la IA y ahorrarte serios problemas técnicos en el futuro. Con DataRobot, puedes integrar tus herramientas de inteligencia artificial con tus inversiones tecnológicas existentes y elegir entre los mejores componentes. Estamos aquí para apoyarte:
- Avoid lock-in y prevenir la expansión descontrolada de activos de IA
- Crea modelos GenAI independientes de la integración que perdurarán en el tiempo
- Mantén actualizados tus modelos e integraciones de IA con alertas y control de versiones.
- Combina tus modelos de IA generativos y predictivos creados por cualquier persona, en cualquier plataforma, para ver el verdadero valor comercial