Обычно и в аплеере нет проблем с выводом файлов любых поддерживаемых драйвером и ЦАПом форматов через WASAPI.
При выводе через WaveOut всё автоматом ресемплируется в частоту, выбранную для системного микшера.
Поэтому есть смысл обратить внимание на частоту дискретизации проблемных файлов и ещё раз проверить настройки ресемплера.
При выводе через KS ограничения обычно совпадают с таковыми для Exclusive WASAPI.