В конце концов, я решил это, мне пришлось заключать в кавычки кавычки, т.е. добавлять к команде кавычки.
Это рабочая команда для удаления самого последнего файла, независимо от каких-либо специальных символов или пробелов в имени.
rm -f "" "$ (ls -t | tail -1)" ""
Приветствия.