используйте команду:
rar t mySFX.exe
если он возвращает «Все в порядке», то это SFX
если он возвращает «Нет файлов для извлечения», то это исполняемый файл не-SFX.
Вот полная команда с условиями.
FOR /F "delims=" %%i IN ('rar t mySFX.exe') DO set isSFX=%%i IF /I "%isSFX%"=="All OK" echo It's an SFX IF /I NOT "%isSFX%"=="All OK" echo It's NOT an SFX
не забудьте использовать% i вместо этого, если вы выполняете из окна cmd, а не из bat-файла.