Powrót do wszystkich studiów przypadków

Ocena środowiskaOprogramowanie / platformy cyfrowe

Sprawdzenie, czy więcej pamięci cache cokolwiek naprawi, zanim się ją kupi

Dostawca platformy SaaS dla firm (B2B)

Ocena rozmiaru Memcached, rozkładu kluczy i współczynnika trafień w celu ustalenia, czy dodanie pojemności faktycznie by pomogło.

Przegląd

Dostawca SaaS zamierzał podwoić zasoby Memcached, aby poprawić rozczarowujący współczynnik trafień. AceMQ najpierw oceniło warstwę cache, aby ustalić, czy pojemność rzeczywiście jest ograniczeniem.

Wyzwanie

Zagregowany współczynnik trafień wyglądał słabo, co czyniło dodatkową pamięć oczywistą odpowiedzią. Wartość zagregowana ukrywała jednak dwa odrębne problemy. Znaczna część odczytów dotyczyła kluczy, które czyta się tylko raz — to chybienia z samej konstrukcji, których żadna ilość pamięci nie naprawi. Ponadto rozkład kluczy w pierścieniu był mocno nierównomierny, ponieważ różnica w konfiguracji haszowania między dwiema bibliotekami klienckimi sprawiała, że część węzłów była bliska wyczerpania pojemności i usuwała dane, podczas gdy inne pozostawały do połowy puste.

Środowisko

Warstwa Memcached na AWS, z której korzystają usługi napisane w dwóch językach przy użyciu różnych bibliotek klienckich.

Podejście

Ocena rozkłada współczynnik trafień według wzorców kluczy, zamiast traktować go jako jedną liczbę, i mierzy faktyczny rozkład kluczy i pamięci na poszczególnych węzłach. Pozwala to oddzielić ruch, którego naprawdę nie da się buforować, od obciążenia, któremu więcej pamięci by pomogło, i ujawnia problemy z rozkładem, których dodanie węzłów by nie rozwiązało.

Rozwiązanie

  1. Rozłożenie współczynnika trafień według prefiksów kluczy i wzorców dostępu, z oddzieleniem kluczy czytanych jednokrotnie od kluczy rzeczywiście używanych wielokrotnie
  2. Pomiar liczby kluczy i rozkładu pamięci na każdym węźle w celu ujawnienia nierównowagi pierścienia
  3. Porównanie konfiguracji haszowania bibliotek klienckich w obu językach i wskazanie niezgodności powodującej nierównowagę
  4. Oszacowanie rozmiaru zbioru roboczego dla każdej klasy kluczy, aby wymagania pojemnościowe opierały się na pomiarach, a nie na zgadywaniu o podwojeniu
  5. Wskazanie wzorców dostępu, których nie da się buforować, i przekazanie ich zespołom aplikacyjnym jako kandydatów do usunięcia ze ścieżki cache
  6. Rekomendacja dotycząca rozmiaru z oczekiwanym współczynnikiem trafień dla każdej opcji, w tym opcji niedodawania żadnej pojemności

Efekt

Usunięcie niezgodności haszowania po stronie klientów zrównoważyło pierścień i znacząco podniosło współczynnik trafień bez nowego sprzętu. Planowane podwojenie pojemności anulowano, a zamiast niego zaplanowano niewielkie zwiększenie ukierunkowane na jedną klasę kluczy.

Technologie

MemcachedLinuxMySQLTerraform

Czas na przegląd Health Check Memcached?

Starsi inżynierowie Memcached w AceMQ realizowali już dokładnie taki rodzaj projektu. Niezależnie od tego, czy potrzebują Państwo doradztwa architektonicznego, praktycznego usunięcia problemów, czy stałego partnerstwa w modelu usług zarządzanych – jesteśmy gotowi pomóc.