H.264 - это современный современный кодек, он даст вам наилучшее качество / размер и, вероятно, будет использоваться в течение некоторого времени.
Ogg Theora не так мощен, как H.264, но полностью открыт и не имеет патентных вопросов, которые есть у H.264 ( ссылка ). Theora также используется Firefox для элемента HTML5, поэтому он, вероятно, останется на некоторое время.
Дирак - еще один кодек, который вы могли бы рассмотреть. Как и Theora, это открытый стандарт, но его качество должно быть сопоставимо с H.264. Это активно развивается Би-би-си, но еще не широко используется.
Нет лучшего ответа, но для хорошего качества и будущего использования я бы выбрал один из этих трех. На этом этапе я бы использовал XviD только в том случае, если мне нужно было воспроизвести видео на устаревших устройствах.