Torna a tutti i casi d'uso

ConsulenzaServizi finanziari / Pagamenti

Un design della cache in cui l'invalidazione è una scelta, non un incidente

Processore globale di pagamenti

Incarico di consulenza per progettare la topologia Memcached multi-regione, il namespacing delle chiavi e la strategia di invalidazione per una piattaforma sensibile alla latenza.

Panoramica

Un processore di pagamenti in espansione verso nuove regioni aveva bisogno di un design della cache che non producesse letture obsolete tra le regioni. AceMQ ha progettato topologia, namespacing e strategia di invalidazione prima dell'avvio dell'espansione.

Sfida

La configurazione esistente, a regione singola, si affidava ai singoli servizi per cancellare le chiavi dopo le scritture, e ogni servizio usava una propria convenzione di denominazione delle chiavi. Nessuno aveva un quadro completo di quali chiavi una data scrittura dovesse invalidare, quindi si verificavano letture obsolete, che venivano risolte accorciando i TTL, con il risultato di riversare il carico sul database. Estendere quel modello a più regioni avrebbe moltiplicato il problema, perché una scrittura in una regione non aveva modo di invalidare una copia in cache in un'altra.

Ambiente

Installazione AWS multi-regione su Kubernetes, percorsi di autorizzazione dei pagamenti sensibili alla latenza, vincoli regionali di residenza dei dati.

Approccio

Abbiamo progettato la cache attorno a una proprietà esplicita: ogni namespace di chiavi ha esattamente un servizio proprietario, responsabile del suo ciclo di vita. Invece di distribuire le cancellazioni tra le regioni, il design usa namespace con versione, così che un'invalidazione sia un singolo incremento di versione che rende irraggiungibili le voci obsolete e le lascia scadere naturalmente.

Soluzione

  1. Schema di namespace delle chiavi con un unico servizio proprietario per namespace, ponendo fine alla proprietà implicita condivisa
  2. Namespace con versione, così che l'invalidazione sia un singolo incremento di versione invece di un elenco di cancellazioni
  3. Livelli di cache locali per regione nel rispetto dei confini di residenza dei dati, con regole esplicite su cosa non va mai messo in cache tra regioni
  4. Strategia di TTL per classe di dati basata sul livello di obsolescenza tollerabile, in sostituzione dei TTL brevi generalizzati usati per mascherare i bug di invalidazione
  5. Comportamento in caso di guasto definito in modo che un'interruzione della cache degradi a letture dirette con limiti di concorrenza invece di provocare un assalto al database
  6. Indicazioni su quando uno storage persistente è più adatto di una cache volatile, riservando Memcached ai carichi per cui è adatto

Esito

Le letture obsolete tra regioni sono state eliminate a livello di progettazione invece che mitigate, il che ha permesso di allungare notevolmente i TTL e di ridurre il carico di lettura sul database. Il pattern dei namespace con versione è stato poi adottato anche da team esterni al perimetro iniziale.

Tecnologie

MemcachedRedisKubernetesTerraformMySQL

Vi servono indicazioni sull'architettura Memcached?

Gli ingegneri Memcached senior di AceMQ hanno già gestito proprio questo tipo di progetto. Che vi servano indicazioni architetturali, remediation operativa o una partnership gestita continuativa, siamo pronti ad aiutarvi.