Tak olbrzymie strony nie korzystają z statycznych serwerów a load balancerów
Trudno określić jakich parametrów używają bo to zależy od technologi aplikacji webowej
Zazwyczaj używają bardzo lekkiego systemu typu Arch Linux w połączeniu serwerem nginx
Całość jest w chmurze i automatycznie domawia nowe serwery wraz z zapotrzebowaniem i je konfiguruje automatycznie a gdy zapotrzebowanie spada serwery są usuwane aby nie generować zbędnych kosztów gdy nie są potrzebne
Owe serwery są za load balancerem i ruch jest rozprzestrzeniany między nimi równomiernie jak na diagramie poniżej
To jest typowy układ jak to działa i działa to analogicznie z bazami danych które mają swoje klastry
Trudno jednoznacznie powiedzieć co i jak ponieważ każda firma ma inne zapotrzebowania i technologie
Mam nadzieje że ta odpowiedź ci odpowiada