Чтобы вставить несколько потоков в вывод, каждый входной поток должен быть явно отображен. Опции кодирования сами по себе не создают назначение потока в выходных данных. Существует вопрос автоматического выбора потока, который здесь не применим, но вы можете прочитать об этом на https://ffmpeg.org/ffmpeg.html#Stream-selection
Так,
ffmpeg -i "big_buck_bunny_1080p.mov" -threads 16 \ -map 0:a -map 0:v -map 0:v -map 0:v \ -c:a aac -ac 2 -b:a 128k \ -s:v:0 1280x720 -s:v:1 854x480-s:v:2 640x360 \ -g 30 -c:v libx264 -pix_fmt yuv420p -profile:v high -level 4.0 -preset veryslow -tune film \ -vsync cfr -x264-params "nal-hrd=cbr" \ -b:v:0 5000k -minrate:v:0 2000k -maxrate:v:0 2000k -bufsize:v:0 4000k \ -b:v:1 1500k -minrate:v:1 1000k -maxrate:v:1 1000k -bufsize:v:1 2000k \ -b:v:2 500k -minrate:v:2 500k -maxrate:v:2 500k -bufsize:v:2 1000k \ -program program_num=1:title=multi_p30:st=0:st=1:st=2:st=3 \ -f mpegts "big_buck_bunny_720_480_360.ts"