En el desarrollo de agentes de inteligencia artificial, las organizaciones se enfrentan a un desafío recurrente: cada solicitud, desde una verificación de estado rutinaria hasta un análisis complejo, suele ser dirigida a un único modelo de lenguaje grande (LLM), lo cual es costoso y computacionalmente intensivo. Este enfoque de 'talla única' no solo eleva los costos de API y genera latencia impredecible, sino que también elimina la posibilidad de operar sin conexión a la red. Incluso las consultas más sencillas, que podrían resolverse localmente, terminan requiriendo un viaje de ida y vuelta a un LLM alojado en la nube.

El enfoque adaptativo de AAIF

El Adaptive Agentic Intelligence Framework (AAIF), construido con Strands Agents, propone una solución innovadora. En lugar de enviar todas las solicitudes a un solo modelo grande, AAIF emplea modelos de lenguaje pequeños (SLMs) para gestionar tareas rutinarias de forma local. Las solicitudes más complejas se dirigen a modelos alojados en la nube a través de Amazon Bedrock. Esta metodología se basa en la investigación de Belcak et al. en NVIDIA, quienes argumentan que los SLMs son "suficientemente potentes, inherentemente más adecuados y necesariamente más económicos para muchas invocaciones en sistemas agénticos".

El framework demuestra cómo una orquestación inteligente de modelos puede reducir significativamente los costos, manteniendo al mismo tiempo una baja latencia para las operaciones locales. Para entenderlo mejor, consideremos un escenario de monitoreo de Internet de las Cosas (IoT) como referencia.

Arquitectura de tres capas para una orquestación inteligente

AAIF organiza el procesamiento de la IA en tres capas distintas, cada una optimizada para diferentes tipos de tareas:

  • Orquestación inteligente: Esta capa utiliza un SLM ligero (llama3.2:1b) como cerebro de la toma de decisiones. Este orquestador clasifica las solicitudes entrantes y las dirige a la capa de procesamiento adecuada sin necesidad de reglas codificadas.
  • Procesamiento local: Se encarga de tareas rutinarias, como la recuperación de telemetría de dispositivos y el análisis de imágenes, utilizando SLMs que se ejecutan en hardware local a través de Ollama. Estas tareas se completan con baja latencia y sin dependencia de la nube, lo que es crucial para la eficiencia y la privacidad.
  • Procesamiento en la nube: Gestiona análisis de patrones complejos y recomendaciones estratégicas a través de modelos de vanguardia en Amazon Bedrock. Estas solicitudes requieren un contexto más amplio y un razonamiento de múltiples pasos que los SLMs no pueden proporcionar de manera fiable.
La flexibilidad del AAIF radica en la separación de la lógica de enrutamiento (el orquestador SLM) de las herramientas de procesamiento, las cuales puedes intercambiar o reconfigurar de forma independiente según el hardware disponible y la conectividad de red. Esto permite que la arquitectura se adapte a tus restricciones de implementación, ya sea en dispositivos de borde, en implementaciones totalmente en la nube o en configuraciones híbridas.

En el centro del sistema AAIF se encuentra el agente Strands, que se conecta a un entorno de ejecución de Ollama que aloja tanto el modelo orquestador de 1B de parámetros como el modelo de visión. El agente expone tres herramientas:

  • get_device_telemetry: para la recuperación local de datos de sensores.
  • analyze_camera_feed: para el procesamiento de visión en el dispositivo a través de llama3.2-vision.
  • get_expert_insights: que invoca a Amazon Bedrock a través de boto3 para análisis complejos.

Las solicitudes de los usuarios fluyen a través del orquestador SLM, que clasifica cada petición y la envía a una herramienta local o a un punto final en la nube, basándose en la complejidad de la tarea. Esta capacidad de adaptación asegura que los recursos se utilicen de manera eficiente, optimizando tanto el rendimiento como los costos operativos.

Implementación de herramientas de procesamiento

Strands Agents utiliza el decorador @tool para definir las capacidades que los agentes pueden invocar. Por ejemplo, una herramienta para la telemetría de dispositivos podría simular la recuperación de datos de sensores IoT, mientras que otra para el análisis de cámaras usaría un SLM local como llama3.2-vision para procesar imágenes directamente en el hardware, asegurando que los datos sensibles no salgan del dispositivo.

Para análisis que requieren un razonamiento más amplio, se crea una herramienta que llama a Amazon Bedrock. Esta herramienta solo se invoca cuando el orquestador determina que los modelos locales no pueden manejar la solicitud, garantizando que los recursos de la nube se utilicen solo cuando son estrictamente necesarios.

En resumen, el Adaptive Agentic Intelligence Framework ofrece una estrategia inteligente para la orquestación de modelos de IA, permitiéndote reducir costos y mejorar la latencia al aprovechar la potencia de los SLMs para tareas rutinarias y reservando los LLMs para análisis complejos. Esta flexibilidad y eficiencia son clave para el futuro de las implementaciones de IA en diversos entornos.