Я проверил ваш подход, он работает лучше, чем вы думаете ... просто обменяйтесь видео наоборот ;-)
gst-launch filesrc location=snow.ogv ! decodebin2 ! alpha method=custom target-r=255 target-g=255 target-b=255 angle=10 ! videomixer name=mixer ! ffmpegcolorspace ! autovideosink filesrc location=bars75.ogv ! decodebin2 ! alpha ! mixer.
Забавная идея Congrats!