Powrót do wszystkich studiów przypadków

DoradztwoUsługi finansowe / płatności

Projekt cache, w którym unieważnianie jest decyzją, a nie przypadkiem

Globalny operator płatności

Doradztwo w zakresie projektu wieloregionowej topologii Memcached, przestrzeni nazw kluczy i strategii unieważniania dla platformy wrażliwej na opóźnienia.

Przegląd

Operator płatności, który rozszerzał działalność na nowe regiony, potrzebował projektu cache'owania, który nie będzie powodował nieaktualnych odczytów między regionami. AceMQ zaprojektowało topologię, przestrzenie nazw i strategię unieważniania przed rozpoczęciem ekspansji.

Wyzwanie

Dotychczasowa konfiguracja jednoregionowa polegała na tym, że poszczególne usługi usuwały klucze po zapisach, a każda z nich stosowała własne nazewnictwo kluczy. Nikt nie miał pełnego obrazu tego, które klucze powinien unieważnić dany zapis, więc zdarzały się nieaktualne odczyty, które rozwiązywano skracaniem TTL — co przerzucało obciążenie z powrotem na bazę danych. Rozszerzenie tego modelu na wiele regionów zwielokrotniłoby problem, bo zapis w jednym regionie nie miał żadnej drogi, by unieważnić kopię w cache'u w innym.

Środowisko

Wieloregionowe wdrożenie AWS na Kubernetes, ścieżki autoryzacji płatności wrażliwe na opóźnienia, regionalne ograniczenia dotyczące rezydencji danych.

Podejście

Zaprojektowaliśmy cache wokół jawnej odpowiedzialności: każda przestrzeń nazw kluczy ma dokładnie jedną usługę-właściciela odpowiedzialną za jej cykl życia. Zamiast rozsyłać operacje usuwania między regionami, projekt wykorzystuje przestrzenie nazw kluczowane wersją, dzięki czemu unieważnienie sprowadza się do jednego podbicia wersji, które czyni nieaktualne wpisy nieosiągalnymi i pozwala im naturalnie wygasnąć.

Rozwiązanie

  1. Schemat przestrzeni nazw kluczy z jedną usługą-właścicielem na przestrzeń, kończący współdzieloną, niejawną odpowiedzialność
  2. Przestrzenie nazw kluczowane wersją, dzięki którym unieważnienie to jedno zwiększenie wersji zamiast wyliczonego zestawu operacji usuwania
  3. Lokalne dla regionu warstwy cache z poszanowaniem granic rezydencji danych oraz jawne reguły określające, czego nigdy nie cache'uje się między regionami
  4. Strategia TTL dla każdej klasy danych oparta na dopuszczalnym stopniu nieaktualności, zastępująca ogólne krótkie TTL, którymi maskowano błędy unieważniania
  5. Zdefiniowane zachowanie w razie awarii, dzięki któremu niedostępność cache'u prowadzi do bezpośrednich odczytów z limitami współbieżności zamiast do lawinowego obciążenia bazy danych
  6. Wskazówki, gdzie trwały magazyn sprawdzi się lepiej niż ulotny cache, z pozostawieniem Memcached dla obciążeń, do których pasuje

Efekt

Nieaktualne odczyty między regionami wyeliminowano już na etapie projektu, zamiast je łagodzić, co pozwoliło znacznie wydłużyć TTL i zmniejszyć obciążenie bazy danych odczytami. Wzorzec przestrzeni nazw kluczowanych wersją przyjęły od tego czasu zespoły spoza pierwotnego zakresu.

Technologie

MemcachedRedisKubernetesTerraformMySQL

Potrzebują Państwo doradztwa w zakresie architektury Memcached?

Starsi inżynierowie Memcached w AceMQ realizowali już dokładnie taki rodzaj projektu. Niezależnie od tego, czy potrzebują Państwo doradztwa architektonicznego, praktycznego usunięcia problemów, czy stałego partnerstwa w modelu usług zarządzanych – jesteśmy gotowi pomóc.