VirtualDub требует совместимый с Video для Windows (Vfw) кодек для распаковки видео.
Кодеки DirectShow, такие как используемые проигрывателем Windows Media, не подходят.
Это означает, что не все кодеки, установленные на вашем компьютере, могут использоваться VirtualDub.
Очень хорошим пакетом кодеков, в котором есть VFW, является ffdshow .
Просто убедитесь, что вы включили все ваши декодеры форматов в VFW Configuration -> Decoder -> Codecs.