Вы можете сделать это, getсвязав yticks, преобразовав их в строку с необходимым количеством десятичных разрядов, используя num2str, а затем setуказав их как yticklabels.
Так что просто добавьте следующую строку после построения:
set(gca,'yticklabel',num2str(get(gca,'ytick')','%.3f')); %This will set all values on the y-axis to 3 decimal places