Сообщения WM_APPCOMMAND, которые используются для управления громкостью, не обрабатываются непосредственно LiteStep. Вам нужно будет установить сторонний модуль, который будет обрабатывать эти сообщения, в частности сообщения APPCOMMAND_VOLUME_DOWN, APPCOMMAND_VOLUME_UP и APPCOMMAND_VOLUME_MUTE.
Вы найдете больше помощи с LiteStep на irc.freenode.net в #litestep