Например как определяется цвет пикселя, при наложении screen.
Берутся матрицы значений яркости по всем каналам, с ними производят какие-то действия и в итоге мы имеем режим наложения screen.
Вот, что это за преобразования мне и интересно.
У меня дома книженция лежит где-то. Не помню кто издавал её, но оформление похоже на книгу из серии DTP DESIGN, вот у коллеги валяется по люстре такая-же, только что смотрел. Помоему там есть. Посмотрю сегодня