(Foto de Photon/Shutterstock)
La comunidad de Collibra se reunió en Orlando, Florida, esta semana para la conferencia anual Data Citizens de la empresa. Además de sesiones educativas y discursos principales sobre la importancia de la inteligencia de datos, los asistentes tuvieron una primera mirada a Collibra AI Governance, el último producto de la empresa diseñado para ayudar a los clientes a tener un mayor control sobre los modelos de IA que ponen en producción.
Empresas de todo el mundo están apresurándose en desarrollar soluciones de inteligencia artificial para mejorar sus operaciones de diversas maneras. La IA generativa, en particular, ha captado la atención de ejecutivos y miembros de juntas directivas que perciben que está en juego una ventaja competitiva. Cientos de miles de millones están fluyendo hacia el desarrollo de IA y startups de IA.
Sin embargo, la implementación de aplicaciones de IA en producción ha sido más lenta de lo esperado, en parte debido a la incertidumbre sobre cómo funcionan los modelos de IA y los riesgos comerciales que modelos inciertos pueden acarrear en cuanto a sesgos, inexactitudes y preocupaciones legales y éticas. Nuevas regulaciones, como el Acta de IA de la Comisión Europea, pronto impondrán sanciones a las empresas que implementen de manera imprudente la IA.
Collibra está tomando medidas para abordar estas preocupaciones con AI Governance, el último componente de su plataforma de inteligencia de datos. Primero revelado en febrero y ahora disponible de forma amplia, AI Governance está diseñado para minimizar el riesgo de la adopción de IA y maximizar el retorno de la inversión al aumentar la visibilidad sobre cómo operan los modelos de IA y automatizar los flujos de trabajo de gobernanza que los rodean.
Collibra AI Governance monitorea los modelos de IA para mitigar riesgos (Imagen cortesía de Collibra)
Como parte de la plataforma de inteligencia de datos de Collibra, AI Governance permite a los clientes gestionar los modelos de IA junto con los controles que utilizan para gobernar y administrar datos. Collibra comenzó como proveedor de catálogos de datos antes de expandirse a iniciativas más amplias de gobierno de datos, y la empresa ve un gran valor en gobernar los modelos de IA en el contexto de los datos utilizados para entrenarlos.
Con ese fin, Data Intelligence se integra directamente con el catálogo de datos de Collibra, así como con los componentes de seguridad de datos y privacidad de la suite de Data Intelligence, lo que ayudará a garantizar que los datos utilizados para entrenar los modelos de IA no violen las pautas de seguridad de datos o privacidad. Esto permite a Collibra y a sus clientes controlar el acceso a los datos, en particular la información de identificación personal (PII, por sus siglas en inglés).
Además de los controles técnicos, AI Governance proporciona un espacio para que un equipo de ciencia de datos o desarrollo de IA comparta ideas sobre aplicaciones de IA, defina casos de uso y documente detalles críticos sobre ellos, como objetivos, valores comerciales y roles asociados con la gestión de modelos de IA. Al registrar ideas y seguir el desarrollo de modelos de IA junto con los datos que se utilizarán para entrenarlos, AI Governance permite a los clientes comenzar a crear su propio catálogo de IA.
A medida que se desarrollan los modelos, AI Governance documenta los riesgos relativos involucrados en la aplicación de IA, incluidos los riesgos para la privacidad, la propiedad intelectual, la ética y el cumplimiento. El software proporciona un panel de control para dar a los ejecutivos y equipos legales descripciones de los riesgos y cómo se relacionan con las políticas aplicables.
AI Governance proporciona un lugar para monitorear y rastrear la capacitación de los modelos de IA con el tiempo, incluidas las tasas de precisión y otros indicadores. Esto les brinda a los clientes una forma de determinar cómo cambia el modelo a medida que pasa de la capacitación a la producción.
Además de anunciar la Asamblea General de AI Governance, Collibra también anunció el lanzamiento de Collibra AI, un conjunto de nuevas características de IA generativa para automatizar algunas tareas de gobernanza de datos y calidad dentro de la Plataforma de Inteligencia de Datos.
Collibra AI permitirá a los clientes generar automáticamente reglas de calidad de datos basadas en SQL a partir de lenguaje natural utilizando Modelos de Lenguaje Grande (LLM, por sus siglas en inglés). También ayudará con la curación de datos aprovechando las capacidades de generación de lenguaje de LLM para automatizar la descripción de activos de datos.
Estos anuncios duales (Collibra AI y AI Governance) representan la mayor inversión de Collibra en GenAI y LLM hasta la fecha.
"Con la disponibilidad general de Collibra AI Governance y el anuncio de Collibra AI, estamos comprometidos a hacer que el trabajo de los equipos de datos sea más rápido y eficiente aprovechando el poder de la IA", dijo Laura Sellers, Directora de Producto de Collibra, en un comunicado de prensa. "Al asegurar que todos los datos puedan ser confiables, los líderes de datos pueden reducir los riesgos de usar la IA y en su lugar utilizarla para impulsar la innovación responsable dentro de sus organizaciones."
Collibra también anunció un rediseño importante de su producto estrella de catálogo de datos y la apariencia de la plataforma de inteligencia de datos. La empresa también presentó Collibra Data Notebook, que proporciona a los clientes un método basado en SQL para extraer información de la plataforma de Collibra.
El Collibra Data Notebook se basa en la adquisición en septiembre de Husprey, que desarrolló una oferta de cuaderno de SQL. Collibra aprovechó esa inversión para lanzar el nuevo cuaderno de SQL totalmente integrado con su catálogo de datos y soluciones de gobierno de datos.
Artículos Relacionados:
Preparándose para Futuros Ciberataques Avanzados
Por Qué un Mal Modelo de Lenguaje Grande es Peor Que No Tener Ninguno