Mira de inicio sería bueno que le dieras una leída a las características de los S.O. para servidores mas comunes, (como de costumbre es mas sencillo empezar por Windows Server en cualquiera de sus modalidades, te recomiendo 2k3, 2k3R2, 2k8 y 2k8R2), después create un laboratorio, en especial en ambientes windows la parte fundamental es manejar servidores DNS, DHCP, asi como Active Directory, empieza por documentarte y crea un laboratorio en tu misma compu, como te decía el bakuno puedes usar VMWare para virtualizar tu entorno y hacer pruebas. Saludos y bienvenido al mundo de los servidores (existen diversos S.O. para servidores pero siempre es bueno que te enfoques en un y ya que lo manejes a un 70 u 80% sigas con otro).
P.D. Por mi experiencia te puedo decir que a nivel empresarial menos del 10% ocupa servidores Linux o Unix, es verdad que son mucho mas estables, ademas de ser gratuitos (bueno excepto Red Hat) pero son mas complejos y requieren de un poco mas de tiempo para dominarles. Suerte