Я бы попробовал .xbm (растровый формат X11) в качестве типа файла.
См. BMP и XBM в http://www.imagemagick.org/script/formats.php
Кроме того, вам не нужно использовать JPEG в качестве промежуточного формата. Используйте .xbm в первой команде и пропустите вторую.