(Adicionalmente a lo comentado por Frankie)
De los 8 hilos, solo se emplean 4 para la comunicación. El 1 y 2 para emisión y el 3 y 6 para recepción. Los hilos restantes (4, 5, 7 y 8) pueden ser empleados con otros fines como por ejemplo transmisión de señal telefónica o incluso para alimentación eléctrica de los dispositivos (PoE=Power over Ethernet).
En conexiones a 10Mbps se puede emplear un orden "plano" sin prestar atención a los pares (como tú habías hecho al principio) y funcionaría. Pero en redes a 100Mbps la transmisión es más "sensible" ya que si se producen excesivas atenuaciones con sus correspondientes pérdidas, los dispositivos se ven obligados a realizar constantes reenvíos que hacen imposible la comunicación.
Como he comentado antes, el que no funcione es por efecto de la diafonía. Es una cuestión eléctrica. Todo cable sufre una atenuación provocada por factores externos. En un cable de red, cada hilo se vé afectado además por el resto de sus "compañeros" que discurren junto a él por el cable. El hecho de ir trenzados a pares dá lugar a la creación de un campo en cada par el cual posibilita que se conserven las propiedades eléctricas y disminuya la afección del resto de hilos que discurren junto a él, reduciéndose así la atenuación y permitiendo que la señal llegue con la potencia necesaria para ser reconocida en el destino.
Saludos.