Для настройки буферов и режимов для WASAPI есть отдельная панель настроек - wasapi_x64_config.exe. В частности, режим push там можно поменять на pull, который может работать стабильнее.
В зависимости от устройства вывода и драйвера WASAPI может принимать не все разрядности. В этом случае на вкладке DSP может требоваться выбрать выходную разрядность 32 или 24 бита.