Сначала надо работать с процессом фотографирования - подсвечивать задник так, чтобы он был боле-мене равномерно освещен; снимать "портретным" фокусом, то есть, для 35мм - 80мм, при небольшой глубине резкости, что еще "отобьет" объект от зеленого или синего задника. Затем Color Range по всем трем точкам и trapping на 1 пиксел для полученного объекта в результирующем дизайне позволят очень быстро и четко лабать виньетки.
А зачем вам вообще отбивать от фона лица? Так что ли не берут, в смысле с тем фоном который получается при фотосъемке?