Category: Backend

2024

Backend

HTTP Graceful Cancelation

Imagine we are writing an HTTP server as described below, where the endpoint takes a long time to complete. When a client starts a request, it may cancel it before the long-running task is completed.

2023

Backend

Rate Limiter In Action

The backend systems which have lots of request per second always need a local rate limiter to protect themself. Which “local” means that this rate limiter worked in only this process and not shared wi

2022
2021

Backend

MySQL InnoDB Locks

InnoDB is a storage engine for MySQL.After more than ten years of development, InnoDB has becomed the most common storage engine in Internet compony usages. There are lots of articles talk over the l

2018

Backend

多级缓存的设计与实现

在高并发量的后端业务中，多级缓存是一个非常常见的设计。事实上，多级缓存策略在计算机硬件也是普遍存在的。 为什么会有多级缓存？通常缓存都是比原数据要小的，设立缓存的目的很简单：某些数据经常用到，我们不想每次都去最深的地方（这里一般是指数据库）去找，所以我们就在更方便取到数据的地方把这些数据保存起来。 那么，为什么要用多级缓存呢？对于所有的数据来说，并不是每一份数据使用的频率都一样。对于使用频率非常

Backend

为什么不建议在 Redis 使用大 Key

Preview 公司里某位工程师小斌发现在一个 Redis 集群中的 some_big_list 经常出现慢查询，而且 QPS 特别高。初步定位是出现了一个热点的 Key。12newexplore> llen some_big_list500000 上面的命令发现，这个 some_big_list 是一个大 Key，导致 Redis Server 的服务器 CPU idle 很低，结果出现了

Backend

Java 里的构造函数需要加锁吗

我们在写 Java 的时候，经常会使用到 synchronized 关键字。synchronized 是一个相对重量级的锁，它有两种使用形式。 对一个具体的变量加锁。 12345678Logger l = LoggerFactory.getLogger(getClass().getName());synchronized (l) { // do something}sy