Исходное значение этого отдельного пикселя, не входящего в выделение, там не имеет значения, если только оно не равно 0 и 255.
Две выделенные точки становятся после операции 0 и 255.
Третья, не выделенная, рассчитывается в зависимости от количества этих двух выделенных пикселей.
Вопрос как...