Présentation
Dans une architecture Lambda, les décisions difficiles se prennent au niveau de la source d'événements, pas dans le handler : file d'attente ou stream, taille et fenêtre des lots, garanties d'ordre, limites de concurrence, et sort réservé à un message impossible à traiter. Se tromper sur ces points produit des problèmes qui ressemblent à des bugs applicatifs.
Défi
Le parc mélangeait files d'attente et streams sans règle claire pour choisir l'un ou l'autre. Des charges sensibles à l'ordre tournaient sur des sources sans aucune garantie d'ordre, les tailles de lot restaient aux valeurs par défaut quel que soit le coût de traitement par enregistrement, une concurrence illimitée sur certaines fonctions submergeait un système existant en aval, et la gestion des échecs variait d'une fonction à l'autre, si bien que les opérateurs n'avaient aucun moyen cohérent de rétablir le service.
Environnement
AWS Lambda consommant des files d'attente, des streams et des systèmes de messagerie, et intégrant un mélange de services modernes et un backend historique à capacité limitée. AceMQ conçoit l'architecture événementielle du client sur la plateforme ; AWS exploite la plateforme.
Approche
AceMQ a classé chaque charge selon son exigence d'ordre, son débit, son coût de traitement par enregistrement et la capacité disponible en aval, puis associé chaque classe à une source d'événements appropriée, avec une sémantique de traitement par lots, de concurrence et d'échec bien définie. Les limites de concurrence ont été fixées explicitement lorsqu'un système en aval a un plafond strict, car il s'agit d'une décision de conception et non d'un réglage après coup.
Solution
- Classement des charges selon l'exigence d'ordre, le débit, le coût par enregistrement et la capacité en aval
- Définition de la source d'événements à utiliser pour chaque classe de charge, avec une justification documentée
- Réglage de la taille et de la fenêtre des lots charge par charge, au lieu de conserver les valeurs par défaut de la plateforme
- Application d'une concurrence réservée pour protéger le backend historique à capacité limitée contre les pics
- Standardisation de la gestion des échecs sur l'ensemble du parc, avec des destinations de dead-letter et des destinations on-failure
- Mise en place d'un modèle d'idempotence pour que la livraison at-least-once soit sûre par défaut
Résultat obtenu
Le backend historique n'est plus submergé par les pics de trafic, les charges sensibles à l'ordre ont migré vers des sources qui garantissent réellement l'ordre, et le rétablissement après un échec suit désormais une procédure documentée unique au lieu d'une investigation fonction par fonction.