2 игрока, которые по моему опыту лучше всего работают с CoreAVC - это Zoom Player (pro) или Media Player Classic.
Вы всегда можете использовать GraphEdit ( http://www.digital-digest.com/dvd/downloads/showsoftware_graphedit_141.html ), чтобы просматривать и редактировать, какие кодеки используются ...
Удачи!