Ответ: Обидный глюк
Всё, разобрался, для проверки и понятия этого смоделируем ситуацию, значение угла искажения я взял заведомо бОльшую.
Вот вам и "квадратик"
Программа приводит выделенное кропом к прямоугольнику, изменяя "внутренности". По крайней мере, делает это он по одному и тому же алгоритму, разных(случайных) результатов я не обнаружил.
/добавил/
т.е. весь прикол, именно к ПОВОРОТУ выделения и приведения одной из сторон к горизонтали. Вроде всё логично программа делает. Ведь кроп у нас певёрнут...