Necesitas utilizar Linux, por ejemplo Puppy. Al ejecutar el SO desde la USB te permite guardar la configuración que realices y utilizarla cuando vuelvas a iniciar desde la misma USB.
Hasta donde recuerdo, con Windows no es posible hacer esto.