Поддержка FAAC была удалена из FFmpeg начиная с версии 3.2.
Вам нужно либо использовать более старую версию, либо пропустить FAAC и просто использовать встроенный aacкодировщик. libfdk_aacКодер также предлагает хорошее качество, но это внешняя зависимость.
См. Http://trac.ffmpeg.org/wiki/Encode/AAC для получения дополнительной информации.