Добрался я на обеде до шопа и посмотрел refine edge. Да, уголки оно не раскругляет. Просто делает жёсткий край. Это я на функцию радиус подумал – она делает маску по некой отчётливой области. Но эту маску даже не надо вычерчивать, можно просто обвести рамкой. Зачем оно нужно, если есть волшебная палка – непонятно.
Кстати, в gimp (который проигрывает шопу по многим и многим пунктам) в данном случае имеет более развитую функцию лассо. Во-первых, каждый шаг отмечается крупной точкой и, пока выделение не замкнуто, можно вернутся к точке и подправить любую точку, а ещё можно снять/поставить feather и подредактировать радиус растушёвки. В шопе у меня не получилось ни первого ни второго.