Caso de éxito
Grego AI ordena y optimiza su operación de IA generativa en AWS con un assessment MAP
Resumen
Grego AI es una startup de IA generativa que opera modelos de lenguaje sobre Amazon Bedrock y OpenAI. Craftech la acompañó con un assessment financiado por AWS (Migration Acceleration Program): documentó su operación de IA, calculó el TCO, gestionó las cuotas de tokens y montó un dashboard de costos por modelo en CloudWatch, dejando un roadmap de migración y un control de costos mucho más fino.
Grego AI construye su producto sobre modelos de lenguaje, combinando Amazon Bedrock y OpenAI. Como toda startup de IA generativa en crecimiento, su mayor desafío no era solo construir, sino entender y controlar el costo de operar modelos a escala. Para ordenar esa operación y prepararse para crecer sobre AWS, Grego AI trabajó con Craftech dentro del programa AWS MAP (Migration Acceleration Program).
Solución implementada
- Estructuró un assessment bajo el programa AWS MAP, con documentación de discovery de la operación de IA
- Relevó los modelos y el uso actual, y analizó el consumo de tokens
- Identificó los prompts críticos y definió métricas de evaluación
- Elaboró un informe de costo total (TCO) y un roadmap de migración
- Configuró una instancia Amazon EC2 para entorno de prueba
- Gestionó las cuotas de tokens con AWS y definió nuevos límites de quotas
- Montó un dashboard de costos en Amazon CloudWatch por consumo de modelos
Desafío de negocio
Grego AI necesitaba ordenar y optimizar su operación de IA generativa sobre AWS. Eso implicaba varias cosas a la vez: entender su costo total de propiedad (TCO), gestionar los límites de cuota de tokens con AWS, ganar visibilidad del costo por consumo de cada modelo y preparar una migración acompañada con financiamiento de AWS. Sin esa visibilidad, escalar la operación significaba escalar también la incertidumbre sobre el gasto.
Solución
Craftech estructuró el trabajo como un assessment bajo AWS MAP, combinando documentación de discovery con ejecución técnica. En la fase de discovery se relevaron los modelos y el uso actual, se analizó el consumo de tokens, se identificaron los prompts críticos y se definieron métricas de evaluación, todo consolidado en un informe de TCO y un roadmap de migración. En paralelo, el equipo configuró una instancia Amazon EC2 como entorno de prueba, gestionó las cuotas de tokens con AWS y definió nuevos límites de quotas para sostener el crecimiento. Para cerrar el círculo de control de costos, montó un dashboard en Amazon CloudWatch que expone el costo por consumo de cada modelo, dándole a Grego AI visibilidad fina de su gasto en IA.
Resultados
- Diagnóstico completo de la operación de IA: TCO, consumo de tokens, prompts críticos y métricas de evaluación
- Roadmap de migración claro para evolucionar la operación sobre AWS
- Mayor control de costos con un dashboard de consumo por modelo en CloudWatch
- Cuotas de tokens gestionadas con AWS y nuevos límites definidos
- Entorno de prueba sobre Amazon EC2 para validar cambios
Trabajar con Craftech
El acompañamiento de Craftech le dio a Grego AI lo que más necesitaba en su etapa: claridad. Un diagnóstico completo de su operación de IA, un roadmap para evolucionar sobre AWS y, sobre todo, las herramientas para ver y controlar el costo de operar sus modelos. El trabajo combinó la mirada estratégica del assessment con cambios técnicos concretos —cuotas, entorno de prueba y observabilidad de costos— que se traducen en una operación más predecible.
Tecnologías utilizadas
La operación de IA de Grego AI corre sobre Amazon Bedrock y OpenAI para sus modelos de lenguaje. El assessment se enmarcó en el programa AWS MAP. Se configuró una instancia Amazon EC2 como entorno de prueba y se construyó un dashboard de costos en Amazon CloudWatch para la observabilidad del consumo por modelo, junto con la gestión de cuotas de tokens con AWS.
Stack & tecnologías
¿Tu equipo enfrenta un desafío parecido?
Pedí un assessment gratuito de costos y arquitectura en AWS.
