Платформа DirectShow не использует параметры, указанные в Windows для устройств по умолчанию, поэтому изменение параметров звука в настройках звука Windows не повлияет на DirectShow.
На самом деле VLC просто перечисляет устройства в системе и выбирает первое найденное аудиоустройство. Вы можете просто выбрать конкретное устройство, которое вы хотите использовать, из раскрывающегося списка, или же вы можете отключить аудиоустройства, которые вы не хотите использовать, до тех пор, пока нужное вам устройство не окажется первым в списке.