Очень кратко:
Вы не можете «добавить библиотеку кодеков» в «свой» FFmpeg. Вместо этого вы должны полностью скомпилировать свой собственный бинарный файл FFmpeg из исходного кода. Что немного сложно, если вы сами никогда ничего не компилировали. Так что это требует понимания руководства по компиляции, это требует знаний о том, как компилировать материал в Windows 10, требует работающего компилятора C и т. Д. Учебное пособие о том, как это сделать, вероятно, выходит за рамки этого сайта.
Но начните с выбора компилятора из четырех альтернатив, упомянутых в руководстве по компиляции, установите этот компилятор и скомпилируйте приложение "hello world". Выясните, как работает конфигурация.
В любом случае, после того, как вы сможете каким-то образом скомпилировать ffmpeg, вам нужно добавить --enable-libfdk-aacпараметры конфигурации. Вам также необходимо установить (или скомпилировать) libfdk_aacбиблиотеку.
Вполне возможно, что как-то это уже сделано, и эта библиотека включена в вашу ночную сборку git; проверить с ffmpeg -codecs.
Я не уверен, что понимаю второй вопрос, вы, кажется, уже знаете, как кодировать DTS с помощью встроенного кодировщика. Также обратите внимание, что если у вас нет какого-либо усилителя, который вы не можете подключить к своему ПК, за исключением некоторого канала с низкой скоростью передачи битов, где будет необходим DTS, кодирование звука в DTS на самом деле не нужно и не даст более качественных результатов, чем альтернативы.