Полагаю обе гайды лежат в пределах одного пиксела. Но нижняя - ближе к нижней границе. Соответственно, выделение и стремится захватить этот пиксел, рассуждая по логике что коль скоро обе гайды на одном и том же пикселе - этот пиксел нужен.
А выделение ограничено пикселами.
У фотошопа изначально с гайдами очень натянутые отношения. Когда приходится гайдировать какую-то картинку, то создаётся ощущение, что адоба прилепила гайды в фотошоп "до кучи чтоп було, а как оно там - не парит!" Они пропадают на определённых стадиях зума, их нельзя зацепить и тд.
С другой стороны, я всегда стараюсь помнить, что все вычисления как в ИД, так и в АИ и в соответственно, АФ - построены от пунктов. А я например, работаю исключительно в миллиметрах.
В АФ вся эта "имперщина" накладывается ещё на невозможность выделения ½ или скажем, ¼ пиксела. Что выводит на сцену новые, свежие, неизведанные трудности. Хотя лично мне не понятно, почему feather в 0,25 пиксела можно построить, а ввести в выделение ¼ пиксела мы почему-то не можем...