VLC не может добавлять похожие файлы, когда вы воспроизводите определенный файл в OS X. Так что мне интересно, VLC не поддерживает автоматическое добавление похожих файлов.
Я помню, что SMplayer в Fedora должен это поддерживать. В Preference-playlist есть опция добавления похожих файлов в текущий список воспроизведения, созданный для открытого вами файла.