podes emplear Windows Media Encoder 9.1 pero cuesta bajarlo...
Puedes Usar VIDEOLAN el programa que permite transmitir por puertos UDP y TCP
Puedes emplear FFMPEG con Linux excelente método muy documentado
Prueba con Xsplit que es donde se ve a la gente retransmitiendo como juega al lol, dota2, starcraft2, etc...
Existen un montón de tutoriales para ponerlo, pero si quieres transmitir en hd mas te vale tener fibra óptica u otro similar ya que consume mucho. Yo con 6b retransmitía a 445kb y en los juegos me decían que cada minuto había un parón de 1segundo de lag, pero esto teniendo en cuenta que yo jugaba con la conexión del starcaft2 funcionando que también consumiría bastante, se supone que los que te ven tienen un retardo de 5segundos aprox.
