Tag: Concurrent

2023

Backend

Rate Limiter In Action

The backend systems which have lots of request per second always need a local rate limiter to protect themself. Which “local” means that this rate limiter worked in only this process and not shared wi

2018

Backend

多级缓存的设计与实现

在高并发量的后端业务中，多级缓存是一个非常常见的设计。事实上，多级缓存策略在计算机硬件也是普遍存在的。 为什么会有多级缓存？通常缓存都是比原数据要小的，设立缓存的目的很简单：某些数据经常用到，我们不想每次都去最深的地方（这里一般是指数据库）去找，所以我们就在更方便取到数据的地方把这些数据保存起来。 那么，为什么要用多级缓存呢？对于所有的数据来说，并不是每一份数据使用的频率都一样。对于使用频率非常