Utilizziamo convertitori USB to seriale da anni ed abbiamo a catalogo diversi modelli (Vedi sito). La maggior parte dei convertitori utilizza il chip della FTDI e con nessuno dei convertitori abbiamo avuto problemi di funzionalità anche in Windows 8, quindi escluderei una incompatibilità.
Quello che non ho capito e se sul vecchio PC utilizzavi lo stesso identico cavo oppure un altro modello e/o un seriale fisica del PC. Ho visto il datasheet del tuo convertitore ed ho visto che esce con i fili nudi che poi devono essere connessi al connettore RS232 della seriale. Ora mi viene il dubbio delle connessioni che hai realizzato, sul connettore RJ45 del modulo CPU i segnali da connettere sono:
Pin 4: GND da connettere al segnale GND del convertitore (Cavo nero)
Pin 5: Rx da connettere al segnale TXD del convertitore (Cavo arancione)
Pin 6: Tx da connettere al segnale RXD del convertitore (Cavo giallo)