Khi chọn nền tảng triển khai, thường rất khó để so sánh hiệu suất thực tế giữa các lựa chọn. Điều này đặc biệt đúng với các nền tảng serverless, quảng cáo độ trễ cực thấp nhờ triển khai edge toàn cầu. Nhưng độ trễ thấp có ích gì nếu việc lấy dữ liệu vẫn chậm? Nếu API của bạn chạy ngay cạnh người dùng nhưng phải thực hiện vòng lặp mạng nửa vòng trái đất để lấy dữ liệu, trải nghiệm sẽ không tốt.
Truyền thống, phần tính toán và lưu trữ sẽ được đặt cùng vị trí trong một máy chủ hoặc ít nhất cùng trung tâm dữ liệu, nhưng với sự trỗi dậy của serverless và edge functions, chúng ta đã thấy sự tách biệt giữa compute và storage. Điều này tuyệt vời cho khả năng mở rộng và tính sẵn sàng, nhưng cũng đặt ra vấn đề mới: độ trễ. Ngày nay, việc triển khai API lên mạng edge toàn cầu trở nên dễ dàng, nhưng dữ liệu thì sao? Dữ liệu vẫn đang theo kịp, nhưng chắc chắn đang tiến bộ.
Trong bài viết này, chúng ta sẽ so sánh hiệu suất của hai datastore serverless: Cloudflare KV và Upstash Redis. Cả hai đều serverless, đều phân phối toàn cầu, nhưng cách tiếp cận hoàn toàn khác nhau. Cloudflare KV là key-value store dựa trên cơ chế pull, trong khi Upstash là dịch vụ tương thích Redis với sao chép chủ động (active replication).
Cơ chế Pull-based: Dữ liệu thường được lưu trữ ở một vị trí trung tâm và chỉ được di chuyển đến các edge node khi được yêu cầu bởi người dùng. Đây là cách tiếp cận của Cloudflare KV.
Sao chép chủ động (Active replication): Dữ liệu được lưu trữ ở mọi vị trí edge và được đồng bộ hóa bởi chính datastore. Các cập nhật dữ liệu được sao chép ngay lập tức đến tất cả các region. Đây là cách tiếp cận của Upstash và do đó là của Vercel.
Caching về cơ bản chỉ là lưu trữ một loạt key và giá trị của chúng. Đây là khái niệm đơn giản, nhưng cũng rất phổ biến. Cũng là cách tuyệt vời để so sánh hiệu suất của hai datastore. Chúng ta sẽ sử dụng một kịch bản caching đơn giản để so sánh Cloudflare KV và Upstash Redis.
Benchmark
Chúng ta đang kiểm tra điều gì?
Chúng ta sẽ đo độ trễ mà một Cloudflare Worker trải qua khi đọc một giá trị đơn lẻ từ Cloudflare KV và Upstash Redis.
- 1 Cloudflare Worker
- 1000 key
- Kích thước dữ liệu 4KB - 64KB (ngẫu nhiên)
- TTL 60 giây cho tất cả key
- 20 region gọi worker
- ~10 request mỗi giây
Tôi chọn keyspace khá nhỏ để đảm bảo có một số cache hit mà không cần tăng RPS quá cao.
Mã Worker
Worker rất đơn giản, chỉ đọc từ Redis, đọc từ KV và trả về độ trễ để đánh giá sau.
app.get("/test", async (c) => {
const redis = Redis.fromEnv(c.env);
const key = Math.floor(Math.random() * 1_000).toString();
const minValueSize = 4 * 1024;
const maxValueSize = 64 * 1024;
const ttlSeconds = 60;
const randomValue = new TextDecoder().decode(
crypto.getRandomValues(
new Uint8Array(
Math.floor(Math.random() * (maxValueSize - minValueSize)) + minValueSize,
),
),
);
const beforeRedis = performance.now();
const redisResponse = await redis.get(key);
const redisLatency = performance.now() - beforeRedis;
if (!redisResponse) {
await redis.set(key, randomValue, { ex: ttlSeconds });
}
const beforeKV = performance.now();
const kvResponse = await c.env.ANDREAS_KV_BENCHMARK.get(key);
const kvLatency = performance.now() - beforeKV;
if (!kvResponse) {
await c.env.ANDREAS_KV_BENCHMARK.put(key, randomValue, { expirationTtl: ttlSeconds });
}
return c.json({ kvLatency, redisLatency });
});
Kết Quả - Độ Trễ Toàn Cầu
Sau khi chạy benchmark khoảng 30 phút, chúng ta đã quan sát được những khác biệt đáng kể giữa hai datastore.
Nhấn vào hình ảnh để xem kích thước đầy đủ
Như bạn thấy, Cloudflare KV chậm hơn Upstash Redis một cách nhất quán. Tôi không mong đợi điều này, vì Cloudflare quảng cáo KV là độ trễ thấp và chạy trên cùng nền tảng với Workers. Vâng, họ không giữ dữ liệu ở mọi region mặc định, nhưng sau vài phút, tôi mong đợi dữ liệu sẽ được cache ở region nơi worker chạy.
Có thể tải trọng không đủ cao để hệ thống của họ colocate dữ liệu? Hãy cô lập một region và tăng tải trọng mạnh để xem có khác biệt không.
Single Region
Hãy xem kết quả cho một region đơn lẻ với RPS cao hơn nhiều. Về lý thuyết, Cloudflare nên có thể làm nóng tất cả cache trong region này và đạt độ trễ cực thấp như quảng cáo.
Test này giống hệt test đầu tiên, ngoại trừ việc chúng ta gọi worker từ một region đơn lẻ và với ~400 RPS.
Nhấn vào hình ảnh để xem kích thước đầy đủ
Độ trễ của KV đã cải thiện mạnh:
- P90: 742ms → 115ms
- P99: 1,336ms → 560ms
Rõ ràng bạn cần tải trọng khá cao trước khi Cloudflare thực sự sao chép dữ liệu gần worker hơn. Tuy nhiên, nó vẫn xa hơn nhiều so với độ trễ của Upstash Redis. Mặc dù P90 của Cloudflare là 115ms không quá tệ, nhưng P99 trên nửa giây là rõ ràng nhận thấy. Hãy nhớ chúng ta đang làm ~400 request/giây để đảm bảo dữ liệu thực sự được sao chép, điều này đã nhiều hơn tải trọng hầu hết API nhỏ đến vừa thường thấy.
Thú vị là bạn có thể thấy khi Cloudflare di chuyển dữ liệu gần hơn hoặc xa hơn từ worker được chú thích trong hình sau:
Nhấn vào hình ảnh để xem kích thước đầy đủ
Giá Cả
Đây sẽ không phải so sánh công bằng nếu không nói về chi phí.
Yếu tố chính ở đây sẽ là chi phí mỗi request để truy cập datastore.
Cloudflare tính $0.50 cho mỗi triệu lần đọc KV, trong khi Upstash tính $1 cho mỗi triệu lệnh Redis. Có một số khác biệt khác, Cloudflare đắt hơn về lưu trữ, Upstash đắt hơn về băng thông. Tuy nhiên, đây không phải là yếu tố chi phí chính trong kịch bản này.
Upstash có phù hợp với bạn không?
Chỉ bạn mới có thể trả lời câu hỏi này.
Rõ ràng chúng tôi có thiên kiến ở đây và thực sự tin vào sản phẩm và giá trị của nó, vì vậy hãy xem xét với sự cẩn trọng.
Nếu bạn chạy API quy mô nhỏ đến vừa, bạn cần xem xét độ trễ vì chi phí sẽ không đáng kể. Khi API có lưu lượng lớn, Upstash cung cấp giá cố định rẻ hơn Cloudflare KV.
Nếu tất cả những gì bạn cần chỉ đơn giản là set, get hoặc list, bạn luôn ở trên nền tảng Workers và độ trễ cao chấp nhận được cho ứng dụng, thì Cloudflare KV có thể là lựa chọn đúng. Mọi thứ được xử lý ở cùng một nơi và bạn không cần lo lắng về bất cứ điều gì.
Nếu bạn trả lời "không" cho bất kỳ câu hỏi nào trên, tôi khuyến khích bạn thử Upstash. Redis có nhiều tính năng mà Cloudflare KV không có, như pub/sub, sorted sets, hashes, v.v. Upstash hỗ trợ tất cả. Nếu bạn đã dùng Redis, chỉ cần trỏ ứng dụng đến Upstash và nó sẽ hoạt động. Không cần thay đổi gì.
Kết Luận
Cloudflare KV là sản phẩm tuyệt vời, nhưng nó không thay thế được một database đầy đủ như Redis. Nó phù hợp cho các use-case đơn giản, nơi độ trễ không phải mối quan tâm.
Ghé Discord hoặc X của chúng tôi để nói chuyện và đặt câu hỏi về bất kỳ điều gì trong bài này.