Panoramica
Ogni plugin Kong gira nel percorso della richiesta. Una catena messa insieme in due anni da team diversi può facilmente aggiungere più latenza del servizio upstream che espone, e i plugin Lua personalizzati che effettuano chiamate di rete bloccanti sono i soliti colpevoli.
Sfida
La latenza p99 del gateway era cresciuta costantemente senza che si potesse attribuire la colpa a un singolo deployment. La catena di plugin comprendeva diversi plugin legati all'autenticazione con responsabilità sovrapposte, un plugin Lua personalizzato che eseguiva un lookup sincrono su un servizio esterno e plugin di logging che scrivevano su un sink che a intermittenza si intasava.
Ambiente
Kong su Kubernetes davanti a servizi di autorizzazione dei pagamenti con budget di latenza end-to-end rigorosi.
Approccio
AceMQ ha strumentato il gateway per attribuire la latenza a ciascun plugin e a ciascuna fase, invece di trattare la catena come un unico numero, e ha poi eseguito confronti controllati disattivando i singoli plugin. In questo modo ha separato i plugin che costavano tempo reale da quelli che sembravano solo sospetti.
Soluzione
- Attribuzione della latenza delle richieste per plugin e per fase di esecuzione, anziché alla catena nel suo complesso
- Confronti A/B controllati con singoli plugin disattivati, sotto un carico simile a quello di produzione
- Individuato un plugin Lua personalizzato che effettuava una chiamata esterna bloccante nella fase di access
- Consolidamento dei plugin di autenticazione sovrapposti in un unico percorso verificato
- Raccomandato il logging asincrono o bufferizzato dove un sink intasato aggiungeva latenza di coda
- Definito un budget di latenza per plugin entro cui devono rientrare i nuovi plugin
Esito
La latenza p99 aggiunta dal gateway è scesa in modo sostanziale dopo la riscrittura del plugin personalizzato bloccante e il consolidamento della catena di autenticazione, e il team dispone ora di un budget di latenza con cui valutare i plugin futuri.