Temat wirtualizacji zacznij od VirtualBoxa z jego menadżerem Qt. Potem koniecznie Docker. Następnie możesz się łapać za takie cuda jak KVM, albo Xen itp.
Co do książek, no cóż. Do np. Dockera jest dużo pozycji, mimo to jednak najlepszej bazować na aktualnej dokumentacji. W tematyce serwerowo-systemowej wszystko zmienia się jeszcze szybciej, niż w developmencie.