Ответ: проблемы в QuarkXpress
В настройках дистиллера есть пункт, отвечающий за картинки. Для разных их типов можно задать действия, которые будут производится с изображением при, скажем, слишком большом его разрешении. Эти действия в вашем случае, скорее всего, downsampling, то есть уменьшение разрешения. Кроме этого, может стоять преобразование в JPG, то есть, в самом худшем случае, ваш JPEG еще разок конвертнется в JPEG, и из него получится блин комом.
Удачи :=)