Pues deberias saber primero las especificaciones de la placa madre para saber que tipo modulos acepta, que maxima cantidad por slot, para ver que te puede interesar meter.
Lo habitual es que no pase nada, una memoria de un tipo no encaja en la de otro tipo. Si mezclas diferentes memorias con velocidades diferentes pues todas se acompasaran a la mas lenta. pero si metes memorias con diferentes especificaciones de voltaje es tema es mas delicado.
Si hay problemas de compatibilidad pues el equipo no funcionara con la memoria A y B aunque probablemente lo haga con A por separado y B idem... Memorias de tipo ECC o non-ECC no se podran mezclar y no todas las placas soportan memorias ECC...
Ciertos modulos quizas te reconozca menos memoria de la que tienen por problemas de densidad o que tu placa solo reconoce X MB por cara de memoria...