Это ограничение фильтра. Фильтр removelogo использует соседние пиксели для заполнения области, содержащей логотип. Ваша маска распространяется до самого края изображения, не оставляя соседних пикселей. Для достижения наилучших результатов вам нужно оставить немного места.
Поскольку логотипы обычно не расширяются до края изображения, если с помощью removelogo удалить фактический логотип и оставить достаточно места с края, вы не столкнетесь с этой проблемой.
В качестве альтернативы, если вам нужно продлить до края, вы можете вместо этого попробовать фильтр delogo, но он не позволит вам использовать произвольную маску; только прямоугольные координаты. Или используйте комбинацию площадки, заливки и обрезки, но результаты могут быть неудовлетворительными (я не пробовал).
Оригинал с уродливым логотипом и маской "птичье дерьмо" с достаточным дополнением от края.
Результат removelogo фильтра.