Сам по себе формат flv очень некачественный. Если вам ДЕЙСТВИТЕЛЬНО нужно использовать flv, вы должны выбрать: либо вы придерживаетесь качества YouTube, либо накачиваете битрейт, либо, альтернативно, вы можете предварительно обработать видео. Что это значит? Ну, чтобы получить шумоподавитель, который убирает некоторые из частот, улучшая сжимаемость и выводя гладкое изображение за счет процессорного времени. Это работает, и это работает очень хорошо, плюс в зависимости от контента это может выглядеть даже лучше. Помните, блоки DCT анализируют частоты, и когда они не могут воспроизвести высокую частоту, они создают дерьмо.
Я хотел бы использовать Avisynth «s DctFilter, Но я не знаю, если он будет работать в Ubuntu. Очень хорошая скорость и значительно повышает сжимаемость (это скорее препроцессор с низким битрейтом, чем шумоподавитель, и единственный недостаток - это когда у вас очень острые края, как в аниме)