La IA generativa está cambiando la forma de trabajar de las organizaciones, pero implementar modelos es solo el principio. A medida que las empresas pasan de la experimentación a la ejecución, necesitan una IA que tome decisiones de forma coherente y en consonancia con el funcionamiento real de la empresa.
En un nuevo episodio de The AI Prediction, titulado “Lógica de decisión: la capa que falta en la IA empresarial”, Darlene Newman, responsable de Innovación en Duczer East, se une al presentador Paul Muller para explicar por qué la IA empresarial necesita algo más que datos e instrucciones para ofrecer resultados fiables. Basándose en su experiencia al frente de iniciativas de IA y transformación digital, Newman explica por qué las organizaciones deben capturar el conocimiento sobre la toma de decisiones que los empleados aplican cada día y hacerlo accesible a la IA.
Siga leyendo para descubrir por qué la lógica de decisión puede convertirse en un elemento fundamental de la IA empresarial.
¿Qué es la lógica de decisión?
Paul: Hablemos de la lógica de decisión. Cuando vi el tema por primera vez, tuve uno de esos momentos en los que te dan ganas de asentir con la cabeza y fingir que lo entiendes. Incluso tras echarle un vistazo rápido, me di cuenta de que no tenía ni idea de qué significaba la lógica de decisión como disciplina. Así que ayúdame. ¿Qué es y por qué debería importarme?
Darlene: Un LLM genera resultados impresionantes, pero lo que hace es buscar coincidencias en el texto con el que se ha entrenado a partir de internet. No es inteligencia de verdad, pero va a cambiar nuestra forma de trabajar en el día a día. Para que lo entienda y le saque sentido, tienes que ayudarlo a comprenderlo.
He dedicado mucho tiempo a la gestión de contratos y creo que es un caso de uso fenomenal para los LLM.Si pregunto si un contrato tiene una cláusula de renovación automática, expresiones como “podrá renovarse”, “se renovará”, “renovación automática” o “renovación tácita” podrían significar todas lo mismo. Cuando alguien dice: “Este es un contrato de renovación automática”, la pregunta es: ”¿Cómo lo sabes?”.
A eso me refiero con lógica de decisión. Es el por qué que hay detrás de lo que haces, ese conocimiento implícito que la gente aplica instintivamente cada día. Tienes que enseñarle ese conocimiento al LLM. Si no, tomará su propia decisión, y puede que no sea la correcta.
El «bibliotecario» detrás de la IA empresarial
Paul: Lo que entiendo es que la lógica de decisión nos ofrece una forma de capturar parte de ese conocimiento implícito e integrarlo en el sistema para casos de uso concretos, reduciendo así la necesidad de una intervención humana constante. Entonces, ¿qué tipo de talento o habilidades necesitan las organizaciones para desarrollar esas capacidades?
Darlene: Yo lo comparo con un bibliotecario, alguien que organiza la información. Siempre digo que hay dos habilidades clave que necesitas para crear un agente: entender el proceso de negocio y entender los datos. Si combinas ambas, tienes a alguien capaz de diseñar el conocimiento. No son ingenieros puros, pero la persona que diseña la capa de conocimiento tiene que entender cómo están estructurados los datos y cómo funciona realmente el negocio. Sigues necesitando personal técnico para implementar el agente, pero diseñar el conocimiento es, en realidad, una mezcla de experiencia empresarial y comprensión de los datos.
Creo que lo que suele ocurrir es que, si quien diseña esto procede de un entorno puramente técnico, estructurará su vocabulario en torno a lo que ya hay en el sistema. La gente dirá: "Tenemos Collibra. Tenemos definiciones de datos para todos nuestros campos y hemos trazado el linaje." Mi respuesta es: "Eso no es un vocabulario controlado."
Tener definiciones de campos está muy bien, pero la verdadera pregunta es: ¿qué significa realmente ese concepto? Una definición por sí sola no te dice cómo debe interpretarse ni cómo debe identificarlo una IA. Tienes que ir un paso más allá. No quieres que tus conceptos y tu comprensión se limiten a reflejar lo que hay en un modelo de datos relacional. Ese es el riesgo de adoptar un enfoque demasiado técnico a la hora de definir la capa semántica.
Incorpore lógica de decisión a la IA desde el primer día
Paul: Terminemos con una pequeña llamada a la acción. Para gente como yo, que quizá oiga el término lógica de decisión y se limite a asentir, ¿qué deberíamos hacer realmente al respecto? ¿Es algo en lo que deberían pensar los consejos de administración y los ejecutivos, y en qué momento de un proyecto de IA debería entrar en juego la lógica de decisión?
Darlene: Se empieza a pensar en la lógica de decisión al principio del proyecto, al diseñar el agente. Con los agentes, ya no basta con unos requisitos mínimos. Cada tarea tiene posibles casos extremos, por lo que hay que decidir si el agente se encarga de ellos o los deriva a un humano.
Siempre le digo a la gente que empiece por el flujo del proceso. No intentes diseñar todo el proceso en torno al agente. En su lugar, identifica las actividades críticas de ese proceso. Traza el trabajo que haces hoy y di: "Estas son todas las cosas que hacemos en este flujo. ¿Cuáles son las que tiene más sentido hacer? " Y en ese punto, ¿cuáles son las pruebas? ¿Cuál es la entrada? ¿Cuál es la salida y cómo se toma esa decisión para esa salida? Y empiezas a documentar cómo lo haces.
El reto es que las capas semánticas aún no son algo que los consejos de administración comprendan o financien fácilmente. Los consejos de administración comprenden fácilmente los lagos de datos y las API, pero las capas semánticas aún no han alcanzado ese nivel de comprensión.
Con algunos clientes, tuvimos que demostrar su valor. Empezamos con un solo agente, y los resultados fueron malos. Creamos un vocabulario controlado sencillo para que el agente lo utilizara como referencia, y los resultados mejoraron. A medida que añadíamos más reglas y definiciones, básicamente estábamos construyendo una capa semántica básica. Hoy en día, lo estamos formalizando mediante el diseño del conocimiento y estándares abiertos, pero en aquel momento tuvimos que desarrollarlo entre bastidores porque las organizaciones no lo pedían. Es un concepto difícil porque la gente no piensa así de forma natural. He descubierto que es más fácil mostrar cómo es un grafo de conocimiento que explicarlo.
No te pierdas la conversación completa con Darlene Newman en The AI Forecast en Spotify, Apple Podcasts y YouTube.
