То, что вы испытываете, - это наиболее легко различимая разница между векторными и растровыми изображениями. В то время как первый описывает формы абстрактным образом, последний имеет дело с изображениями в виде набора прямоугольных точек, называемых пикселями.
Вы можете уверенно экспортировать изображения в большем разрешении, что повышает качество за счет размера файла. Но если вы хотите сохранить качество вывода, вам не следует использовать JPEG или PNG, а скорее формат файла, способный представлять векторную графику. Если это для печати, то PDF - это выбор, с которым большинство компаний могут работать. Кроме того, в любом случае это родной формат для Illustrator.
Примечание: вы все равно не хотите экспортировать векторную графику в такой формат, как JPEG, потому что JPEG в первую очередь предназначен для фотографических изображений. Прямым следствием этого является то, что JPEG работает необычайно плохо с линейными чертежами, острыми краями и высокой контрастностью, что не редкость для векторной графики. PNG - гораздо лучший выбор, если вам нужен растровый формат и обычно даже лучше сжимать такие изображения.