Desafios e Soluções na Implementação de Rate Limiting em Aplicações Node.js

Olá comunidade!

Tenho trabalhado recentemente em um projeto que exige um controle rigoroso de requisições para evitar abusos e garantir a estabilidade. Decidi implementar um sistema de rate limiting customizado em Node.js, e confesso que a jornada foi mais complexa do que esperava.

No processo, deparei-me com alguns bugs inesperados que impactaram a performance e a precisão do limite. Um dos principais desafios foi lidar com cenários de alta concorrência, onde múltiplos processos ou threads poderiam tentar exceder o limite simultaneamente. Outro ponto crítico foi a gestão do 'estado' do limite (como contadores ou tokens) de forma eficiente e consistente, especialmente em ambientes distribuídos.

Queria compartilhar um pouco sobre os obstáculos que enfrentei e como os superei, na esperança de que possa ajudar outros que estejam passando por algo similar ou que queiram implementar soluções robustas:

1. Race Conditions na Atualização de Contadores: Em um sistema sem locks adequados, a atualização concorrente de contadores (ex: contador++) pode levar a contagens incorretas, permitindo mais requisições que o permitido. A solução envolveu o uso de estruturas de dados atômicas ou mecanismos de sincronização/serialização de acesso.
2. Atrasos na Propagação de Estado em Ambientes Distribuídos: Utilizar um cache distribuído (como Redis) para armazenar os contadores é comum, mas a latência ou falhas temporárias na comunicação com o cache podem causar inconsistências momentâneas entre os nós da aplicação.
3. Gerenciamento de 'Burst' vs. Limite Constante: Definir um limite fixo por janela de tempo pode ser simples, mas ignora padrões de uso que envolvem 'bursts' (picos repentinos). Implementar algoritmos como Token Bucket ou Leaky Bucket, que permitem uma certa flexibilidade, trouxe complexidade adicional na gestão dos parâmetros.
4. Serialização e Desserialização de Dados de Estado: Ao salvar e carregar o estado do rate limiter (ex: timestamps de expiração, contadores remanescentes), a forma como esses dados são serializados e desserializados pode introduzir bugs, especialmente com tipos de dados numéricos de alta precisão ou datas.

Como vocês lidam com esses desafios na prática? Quais bibliotecas ou abordagens recomendam para garantir um rate limiting confiável e performático em Node.js, especialmente em arquiteturas escaláveis?