Để đảm bảo rằng các trang web không bị quá tải khi lượt truy cập quá nhiều cùng một lúc, hay server chính gặp sự cố, không có server nào để thay thế và tiếp tục các tiến trình đang dang dở, dẫn đến website rơi vào tình trạng downtime. Khi đó nên sử dụng công nghệ có tên là load balancing.
Load balancing (cân bằng tải) được định nghĩa là phân phối lưu lượng truy cập mạng hoặc ứng dụng một cách có hiệu quả trên nhiều server trong một cụm server farm.
Load balancing (cân bằng tải) phân phối đồng đều tài nguyên trên nhiều máy chủ. Kỹ thuật này giúp giảm thời gian phản hồi, tăng (throughput) năng suất truyền tải và nói chung tăng tốc độ truy xuất dữ liệu cho mỗi khách hàng. Bằng cách áp dụng giải pháp này, đem đến việc cân bằng khi lưu lượng truy cập được chia đều lên các server hoặc khi server gặp sự cố, server còn lại ngay lập tức là phương án hỗ trợ, không làm gián đoạn sự truy cập và hoạt động của doanh nghiệp.
Load balancer hoạt động như thế nào?
Các website hiện đại có lưu lượng truy cập cao phải phục vụ hàng trăm nghìn, thậm chí hàng triệu các requests đồng thời từ người dùng hoặc khách hàng, đồng thời phải phản hồi chính xác lại các văn bản, hình ảnh, video hoặc dữ liệu ứng dụng, tất cả đều được thực hiện rất nhanh chóng và đáng tin cậy. Để đáp ứng hiệu quả khối lượng lớn các yêu cầu và phản hồi một cách tiết kiệm nhất, best practice tốt nhất thường sẽ là sử dụng thêm servers.
Một load balancer (Cân bằng tải) hoạt động như “traffic cop” (cảnh sát giao thông) ngồi ở phía trước server và routing các request của client trên tất cả các server có khả năng thực hiện các request đó, sao cho tối ưu về tốc độ và hiệu suất nhất và đảm bảo rằng không có server nào phải hoạt động quá mức.
Nếu một server đơn lẻ bị hỏng, cân bằng tải (load balancer) sẽ chuyển hướng lưu lượng truy cập đến các server trực tuyến còn lại. Khi một server mới được thêm vào nhóm máy chủ, bộ cân bằng tải sẽ tự động bắt đầu gửi yêu cầu đến máy chủ mới thêm này.
Một số thuật toán Load balancer (cân bằng tải) phổ biến
- Round Robin
- Least Connection
- Least Response Time
- Least Packets
- Hashing
- Custom Load
Xem chi tiết: Load balancing là gì? Các loại load balancer và lợi ích của load balancer