Почему бы не использовать постоянный контроль качества (CRF), который позволит кодировщику выбирать оптимальный битрейт?
ffmpeg -i input.mp4 -c:v libvpx -crf 10 -b:v 20M -c:a libvorbis output.webm Значение CRF может быть установлено в пределах [4; 63], 4 - лучшее качество. 10 является общепринятым значением. Указанный -b:v 20Mстановится максимально допустимым битрейтом.
Двухпроходное кодирование следует использовать только тогда, когда вам нужен файл фиксированного размера, в противном случае CRF является предпочтительным методом.
Больше информации в статье VP8 / FFmpeg .