Descripción general
Las decisiones difíciles de una arquitectura con Lambda se toman en la fuente de eventos, no en el handler: cola o stream, tamaño y ventana de los lotes, garantías de orden, límites de concurrencia y qué pasa con un mensaje que no se puede procesar. Equivocarse en esto produce problemas que parecen bugs de la aplicación.
Desafío
El entorno mezclaba colas y streams sin una regla clara sobre cuándo usar cada uno. Cargas de trabajo sensibles al orden corrían sobre fuentes que no daban ninguna garantía de orden, los tamaños de lote se dejaban en sus valores predeterminados sin importar el costo por registro, la concurrencia sin límite de algunas funciones saturaba un sistema heredado aguas abajo y el manejo de fallas variaba de una función a otra, de modo que los operadores no tenían una forma uniforme de recuperarse.
Entorno
AWS Lambda consumiendo colas, streams y sistemas de mensajería, con integración entre servicios modernos y un backend heredado de capacidad limitada. AceMQ diseña la arquitectura de eventos del cliente sobre la plataforma; AWS opera la plataforma.
Enfoque
AceMQ clasificó cada carga de trabajo según su requisito de orden, su throughput, su costo de procesamiento por registro y la capacidad aguas abajo, y luego asignó a cada clase una fuente de eventos adecuada con una semántica definida de lotes, concurrencia y fallas. Los límites de concurrencia se fijaron de forma explícita donde un sistema aguas abajo tiene un techo estricto, porque es una decisión de diseño y no un ajuste para después.
Solución
- Clasificación de las cargas de trabajo según requisito de orden, throughput, costo por registro y capacidad aguas abajo
- Definición de la fuente de eventos que debe usar cada clase de carga de trabajo, con la justificación documentada
- Configuración del tamaño de lote y de la ventana de procesamiento por lotes para cada carga de trabajo, en lugar de dejar los valores predeterminados de la plataforma
- Aplicación de reserved concurrency para proteger de las ráfagas al backend heredado de capacidad limitada
- Estandarización del manejo de fallas en todo el entorno con destinos dead-letter y destinos on-failure
- Definición de un patrón de idempotencia para que la entrega at-least-once sea segura por defecto
Resultado final
El backend heredado dejó de saturarse con las ráfagas de tráfico, las cargas de trabajo sensibles al orden pasaron a fuentes que realmente garantizan el orden y la recuperación ante fallas se convirtió en un único procedimiento documentado en lugar de una investigación función por función.