Я попробовал следующий, но он только что скачал модуль локально (не появился на github)
git submodule add https://github.com/FFmpeg/FFmpeg
У вас отсутствует параметр - путь, по которому хранилище подмодулей будет добавлено в основное хранилище.
Пытаться:
git submodule add https://github.com/FFmpeg/FFmpeg FFmpeg