Tanto MKV como AVI son contenedores de flujos (streams) de audio y vídeo. La única forma de no perder calidad, es no recomprimir. Para ello deberás mantener el mismo flujo de vídeo existente, pero simplemente cambiando el empaquetado, de MKV a AVI.
Eso te lo puede hacer perfectamente el Avidemux sin problemas. Pero ten en cuenta que tu reproductor, por mucho que entienda el empaquetado AVI, no tiene por qué ser capaz de saber decodificar el flujo de vídeo que lleve. Ese vídeo puede ser de muy diferente tecnología (MPEG, MPEG-2, MPEG-4 ASP, MPEG-4 AVC, etc) y si el firmware o el chip del reproductor no tiene el codec, no sirve de nada.