La inteligencia artificial conversacional y las aplicaciones Agentic están revolucionando la forma en que interactuamos con la tecnología. Estas aplicaciones, impulsadas por Large Language Models (LLMs), son capaces de comprender el contexto, razonar, planificar y ejecutar acciones de manera autónoma para alcanzar objetivos complejos. Vertex AI es la plataforma de Machine Learning end-to-end de Google Cloud que ofrece un conjunto de herramientas y servicios robustos para facilitar la creación de estas aplicaciones agentic de próxima generación.
A continuación vamos a detallar los 10 Pasos necesarios para que construyas una Aplicación Agentic con la ayuda de Vertex AI:
- Definir el Caso de Uso y los Objetivos: Independientemente de la tecnología que vayas a utilizar, este es el primer paso fundamental en el desarrollo de cualquier aplicación, incluidas las aplicaciones Agentic. Identifica claramente el problema que tu aplicación resolverá y los objetivos que deberá alcanzar. Además de cuantificar los beneficios de la aplicación, presta atención a los costes estimados. En soluciones de GenAI estos costes pueden ser más complejos de entender que en una aplicación tradicional.
- Seleccionar el Modelo de Lenguaje: Elige el LLM que mejor se adapte a tus necesidades en términos de comprensión del lenguaje, razonamiento y generación de texto. Considera el tamaño del modelo, su rendimiento y, una vez más, su costo. Para este punto, Vertex AI dispone de Model Garden, un lugar centralizado para descubrir y probar una variedad de modelos, incluyendo modelos fundacionales, soluciones específicas para tareas y modelos de código abierto. Entre otros, podemos encontrar las últimas versiones de Gemini, Gemma, Claude (Anthropic) y Llama.
- Diseñar los Prompts: El “Arte” de generar prompts es cada vez más importante y demandado en el mercado. Una aplicación Agentic necesita de prompts efectivos que guíen al LLM para comprender las intenciones del usuario, razonar sobre el problema y generar respuestas o planes de acción relevantes. Vertex AI Studio es la herramienta de Google Cloud que te permitirá experimentar con diferentes estructuras de prompts, ajustar parámetros y evaluar la calidad de las respuestas para optimizar el comportamiento del agente.
- Implementación de un sistema de Retrieval Augmented Generation (RAG) (Opcional): Un sistema RAG permite en tiempo real dotar al prompt que va a consumir el modelo LLM de información adicional de contexto extraída de tus fuentes de datos. Esto proporciona beneficios clave como la reducción de las alucinaciones del modelo (instancias donde el modelo genera contenido no factual), el anclaje de las respuestas del modelo a tus fuentes de datos y la mejora de la fiabilidad y aplicabilidad del contenido generado al proporcionar citas y puntuaciones de confianza. En este caso, Google Cloud proporciona Vertex AI RAG engine y Grounding desde Google Search y desde Vertex AI Search con el objetivo de complementar nuestros prompts con información de contexto y mejorar la calidad de las respuestas. Como siempre, hay que evaluar si nuestra aplicación Agentic necesita de un sistema RAG ya que esto puede incrementar el coste y la latencia de nuestra aplicación.
- Fine Tuning de tus modelos (Opcional): A diferencia del prompting, el fine-tuning lleva la personalización de los modelos de IA un paso más allá. Mientras que el prompting se centra en diseñar instrucciones precisas para guiar a modelos pre-entrenados, el fine-tuning adapta el modelo a tu dominio específico, reentrenándolo con tus propios datos etiquetados. Esta técnica permite crear modelos de IA que sobresalen en tareas complejas o únicas, especialmente cuando se dispone de un conjunto de datos significativo para el entrenamiento. El Parameter-Efficient Fine Tuning, o PEFT, es la estrategia más utilizada en estos casos por ser más rápida y económica que el Full Fine Tuning, aunque a cambio de sacrificar algo de calidad en las respuestas. En Vertex AI, se ofrece soporte para el fine-tuning supervisado en el ajuste de los modelos fundacionales.
- Implementar la Lógica de los Agentes: Esta implementación, que puede incluir la gestión del flujo de la conversación, la planificación de acciones, la interacción con APIs externas y la gestión de errores, se puede realizar directamente utilizando las APIs del modelo LLM y técnicas de implementación «clásicas» en la nube. Esto ofrece una gran flexibilidad y control sobre el agente desarrollado, aunque a costa de una mayor complejidad en la implementación y el mantenimiento posterior. Sin embargo, si no requieres de tanta flexibilidad, una opción más sencilla es utilizar herramientas de construcción de agentes de bajo código. En Google Cloud, esta funcionalidad la proporciona el servicio Vertex AI Agent Builder. Esta herramienta ofrece un entorno visual y de bajo código para definir flujos de conversación complejos, gestionar el estado de la interacción, configurar la lógica de negocio y conectar el agente con diversas herramientas y APIs externas.
- Integrar Herramientas Externas (Opcional): Si tu aplicación Agentic necesita interactuar con el mundo exterior, integra las APIs y herramientas necesarias. Por ejemplo, un agente de viajes podría integrarse con APIs de reserva de vuelos y hoteles.
- Probar y Evaluar: Prueba exhaustivamente tu aplicación Agentic con diferentes escenarios y usuarios para evaluar su rendimiento, identificar áreas de mejora y refinar los prompts y la lógica. Para esto resulta muy útil disponer de herramientas de evaluación que permitan hacer benchmarks contra tus propios criterios de evaluación. Google Cloud nos proporciona GenAI Evaluation Service para estas tareas.
- Desplegar la Aplicación: Es el momento de desplegar tu aplicación en una plataforma que te permita la ejecución y el escalado de tus agentes Agentic para que esté accesible a tus usuarios. Aquí hay que mirar siempre a las facilidades de despliegue, escalabilidad, seguridad, elasticidad y facilidad de mantenimiento de la plataforma que vayamos a utilizar. Vertex AI Agent Engine es la plataforma de Google Cloud que proporciona la infraestructura y las capacidades necesarias para desplegar, gestionar y optimizar el rendimiento de los agentes en producción.
- Monitorizar y Mejorar: Esto también es aplicable a cualquier aplicación y no solo a aplicaciones Agentic. Monitoriza siempre el rendimiento de tus aplicaciones en producción y recopila feedback de los usuarios para identificar oportunidades de mejora continua.
La era de las aplicaciones Agentic ha comenzado, y las organizaciones que sepan aprovechar su potencial serán las que lideren la próxima ola de la transformación digital. En dataguru, creemos que la colaboración es fundamental para construir el futuro, especialmente en el campo de las aplicaciones Agentic. Si tienes una idea innovadora y necesitas un equipo con la experiencia para desarrollarla, te invitamos a contactarnos. Exploremos juntos cómo podemos crear soluciones increíbles con la IA Agentic.
