Вы можете измерить его с помощью ImageMagick:
compare -mertic MSE original-input.png degraded-input.png difference-output.png
или с помощью DSSIM :
dssim original-input.png degraded-input.png difference-output.png
MSE - среднеквадратическая ошибка, а DSSIM - метрика структурного (несоответствия). Последнее немного более тесно связано с человеческим восприятием деградации изображения, но оба являются лишь оценками.
Также, когда вы конвертируете изображения в 256 цветов с последней версией pngquant, он будет показывать MSE в подробном режиме:
pngquant -v image.png