Как исключить логотип из всего процесса кодирования и просто добавить его в исходный формат и форму?
Вы должны сделать это в самом видеоплеере, например. использование Flash-плеера, позволяющего добавлять водяные знаки во время воспроизведения или использовать другой элемент поверх HTML5 <video>.
Естественно, вы не получите эту опцию с YouTube.
Чтобы вообще улучшить качество:
добавить наложение логотипа с фильтром логотипа, работающим после фильтра изменения размера;
подумайте о том, чтобы загрузить версию SD, размер которой вы изменили, до исходного разрешения видео YouTube на странице (разместив логотип сверху после изменения размера);
используйте логотип, который сжимает лучше. Более простая полупрозрачная белая накладка с мягкими краями, скорее всего, выживет при сжатии лучше, чем насыщенный острый красно-черный логотип, который у вас есть на данный момент.