En un artículo anterior, establecimos que si bien la Inteligencia Artificial Generativa (GenAI) es el drive espectacular que nos ofrece la «gloria», es la Inteligencia Artificial tradicional (Machine Learning y Advanced Analytics) el putt de precisión que nos otorga la «victoria» en el negocio, proveyendo la base de datos estructurados y el contexto algorítmico. Ahora, al ascender un escalón en la madurez de la IA hacia la Inteligencia Artificial Agéntica (Agentic AI), el dilema no es crear o analizar, sino cuánto poder de decisión autónoma otorgarle. La confrontación es entre el Agentic AI Autónomo y el Agentic AI Basado en Reglas de Negocio Rígidas.
El Dilema de la Agencia: Autonomía con Límite
Los Agentes de IA prometen eficiencias exponenciales al ser capaces de percibir, razonar, planificar y ejecutar tareas complejas con mínima intervención humana. Sin embargo, la autonomía total introduce un nivel de riesgo inaceptable en muchos casos de uso.
Aquí es donde entran las reglas de negocio «rígidas”. Una regla rígida es una restricción no negociable, un límite inquebrantable que define el perímetro de acción del agente. Estas reglas no pueden ser «flexibilizadas» o «saltadas alegremente» por el agente en nombre de la optimización o la eficiencia percibida. Son el pilar que transforma la inteligencia creativa en gestión responsable.
Existen contextos donde la tolerancia al error o al riesgo es mínima, y la agencia debe estar estrictamente condicionada.
Consideremos un agente autónomo encargado de evaluar solicitudes de crédito. El agente se basa en un modelo de ML que predice el riesgo, pero su autonomía podría llevarlo a flexibilizar los parámetros en busca de «optimizar» la adquisición de clientes.
Si una regla de negocio rígida establece: «Cualquier solicitante con un «scoring» de riesgo por debajo de X no puede recibir un crédito superior a Y», un agente demasiado autónomo podría decidir ignorar o interpretar libremente esta regla. La consecuencia de esta mala gestión de la regla de negocio podría ser una acumulación de créditos inadecuados, llevando a la entidad a pérdidas significativas.
En contraste, para tareas de bajo riesgo (como recomendar una película o sugerir una ruta de transporte), sí podemos permitir una mayor agencia y una tolerancia al error más alta para premiar la autonomía y la creatividad.
El Handicap de la IA: Confianza y Trazabilidad
Uno de los mayores obstáculos para la adopción masiva y responsable de sistemas de IA, especialmente los agénticos, basados en procesos de lógica difusa y no de lógica determinista, es su inherente limitación en:
- Trazabilidad
- Consitencia
- Auditabilidad y Alertas
- Explicabilidad
Un modelo de deep learning puro actúa como una «caja negra» que arroja una decisión, dificultando saber por qué se tomó. ¿Qué ocurre si la decisión de negar un servicio está basada en un sesgo inconsciente del modelo? Sin reglas rígidas, rastrear la fuente del error es casi imposible.
Las reglas de negocio rígidas son la solución más práctica a este problema. Si el crédito es denegado, la trazabilidad no recae en la complejidad del modelo, sino en la regla que fue activada: «El crédito fue denegado porque la regla rígida ‘Relación Deuda/Ingreso superior al 40%’ se activó.» Esta regla actúa como un mecanismo de logging obligatorio y proporciona una explicabilidad instantánea que satisface los requisitos regulatorios y de auditoría.
El Drenaje del ROI: «Más Policías que Protegidos»
El camino hacia la autonomía total está lleno de obstáculos. Los proyectos de Agentic AI, en sus fases iniciales de implantación, requieren una alta supervisión humana. Para mitigar el riesgo de que el agente tome decisiones catastróficas, las organizaciones a menudo implementan procesos de revisión manual extensivos.
Esto resulta en una situación donde, paradójicamente, hay «más policías que elementos que queremos proteger». La necesidad de una intervención humana constante y de múltiples puntos de control anula la promesa de eficiencia del agente, lo que a su vez drena significativamente el Retorno de la Inversión (ROI) de la implementación de la IA. La autonomía se convierte en una costosa automatización asistida.
Estrategia Ganadora: Orquestación y Transición Gradual
La estrategia más efectiva es la simbiosis controlada. Las organizaciones no deben buscar la autonomía total de la noche a la mañana. El camino lógico es dar el salto de agentes IA monotarea a Agentic AI multitarea y más sofisticados, pero mediante la orquestación de agentes y reglas de negocio «rígidas», para más adelante dar el salto a sistemas auténticos autónomos.
Por ello, desde dataguru proponemos una implementación «por fases» en el que vamos subiendo gradualmente el nivel de «agencia»:
- Fase 1 (Orquestación Rígida): Implementar agentes que ejecutan tareas complejas, pero siempre bajo la estricta vigilancia de reglas rígidas. Las decisiones críticas son validadas por el framework de reglas. Esta fase permite construir la metodología de Agentic AI, asegurando trazabilidad, confianza y un frameworkde auditoría robusto.
- Fase 2 (Agencia Flexible): Una vez que la metodología es controlada, los modelos han madurado y la confianza en el sistema es alta, se puede dar el salto a reglas de negocio flexibles. Aquí, al Agentic AI se le otorga más agencia para tomar decisiones autónomamente, con las reglasrígidas reservadas únicamente para los límites de riesgo más extremos.
Desde dataguru creemos que, en la era agéntica, ganará el agente que opera con la combinación de la precisión del ML, la aplicación de reglas rígidas allí donde sea necesario y aprovechar la capacidad creativa de los LLMs para un avance con confianza y responsabilidad.
