Загогулина - это изменение цветового тона (hue) в разбелке. В цвете есть два типа "загогулин". Первый (обычно его называют masstone-эффект) связан с законом Бира (Beer’s law или the Beer-Lambert law), если примитивно - увеличение концентрации приводит к цветовым сдвигам. Переложение закона к дисперсиям и подмена разбелки растрированием - см. Wandell (igors ссылки приводил недавно). Это фундаментальная вещь, ее не избежал никто, даже "устойчивый" офсет.
Второй тип "загогулины" - проблема наложений. Точнее - их порядка. Краски неидеально прозрачны, или (иными словами) имеют некую кроющую способность. Никакое растрирование не дает возможности избежать наложений во всем диапазоне разбелки (на мониторе нет наложений). От порядка наложений зависит цвет. На примере - пусть мы имеет краску 1 с hue=0° и краску 2 с hue=90°. При растровом синтезе 50% краски 1 + 50% краски 2 мы можем поместить растровые точки рядом. Ожидаем hue=45°. Но мы не можем положить рядом 100% краски 1 + 100% краски 2. Одна краска поверх второй. В каком порядке? В одном ожидаем hue=40°, в другом - 50°.
Добавим сюда проблему оптического и механического растискивания, несовершенство розетки, неизбежные несовмещения и пр. - получаем крайне замысловатые неоднородности в device color space, сгустки, складки, узлы и пр.
