Wiele serwerów aplikacji - jak to działa?

Question

Ostatnio usłyszałem w pewnym podcasie, podczas dyskusji o wydajności języków i frameworków backendowych, że nie ma to w sumie większego znaczenia bo poważna aplikacja i tak ma ogromny load który idzie na obsługę tysięcy requestów i jeden serwer to często za mało. Zastanawiam się, jak w praktyce wygląda system z wieloma serwerami? Request użytkownika trafia na główny serwer, gdzie jest automatycznie przekazywany do któregoś z pozostałych?

Answer 1

Tak, request trafia do tzw. loadbalancera który pobiera obciążenie poszczególnych serwerów-klientów i wysyła request do pierwszego wolnego serwera, który może obsłużyć zapytanie.

Comments

Btw. Zalozmy, ze mamy firme A, ktora ma ogromna aplikacje i miliony uzytkownikow na calym swiecie. Firma A wykupiła setwery w Moskwie, Warszawie, Frankfurcie i Londynie. (to tylko czesc ich serwerow). Jak wygląda wtedy przydzial tych serwerow. Czy dany serwer jest w pierwszej kolejności odpowiedzialny za dany kraj i w momencie, gdy jest już pelen od zapytsn, to reszta zspytan trafia do dowolnego wolnego serwera, czy wybiera sie pierwszy lepszy wolny?

---

Czy dany serwer jest w pierwszej kolejności odpowiedzialny za dany kraj

Zależy od loadbalancera, można ustawić priorytet serwera w zależności od kraju użytkownika

 i w momencie, gdy jest już pelen od zapytsn, to reszta zspytan trafia do dowolnego wolnego serwera, czy wybiera sie pierwszy lepszy wolny?

.No request leci do pierwszego wolnego serwera.

Answer 2

Przed główną aplikacją (która jest powielona na x serwerów) można postawić tzw. loadbalancer, który rozdziela requesty.

Comments

Jest jeszcze alternatywne rozwiązanie w postaci Message Queue:

https://zef.me/message-queue-based-load-balancing-c3905dd18f7