esto lo he escuchado mil veces, la diferencia es que utilizan de forma diferente tu procesador, si este soporta 64 bits puede transmitir mas bits y por lo tanto aprovechar la arquitectura del mismo y en teoria ser mas eficientes, en cuanto la memoria esta tambien tiene que ser compatible y pues el sistema suele necesitar mas memoria, auque no hay mucha diferencia , los programas, hay versiones especificas para 64 bits pero normalmente en windows 7 por ejemplo tambien se pueden usar la gran mayoria de los programas 32 bits, es decir puedes correr en plataforma
64 bits: programas 32 y 64 bits
32 bits:solo programas 32 bits
te recomiendo buscar mas informacion en google