Я, конечно, извиняюсь, Natavi, но просматривать картинку надо в реальном разрешении, то есть в actual pixels (при 100%). Только в этом масштабе видно, правильно ли Вы сделали выделение, да и прочие огрехи вылезают. (Кстати, в таком масштабе мы видим изображения в интернете.) Такие огромные зубцы можно разглядеть только при увеличении в 300%(или такие зубцы могут получиться после нещадного увеличения разрешения картинки с ресемплингом Nearest Neighbor). По тому, что зубцы немного размазаны можно сделать вывод, что anti-aliased был включен. Если не стоит особая художественная задача, то он должен быть включен всегда. А про Feather забудьте, оставьте равным нулю. Он используется для специального размытия выделения.
