Ответ: Прозрачные края
Если я расскажу как, вы расскажете какого цвета прозрачный цвет?
Правильный способ: Изображение должно быть слоем. Инструментом селекции рисуете прямоугольник или овал внутри границ данного слоя. Граница селекции это будет примерно середина "прозрачного цвета", то есть, середина перехода от непрозрачного к полностью прозрачному. Применяете к нему слоевую маску (Layer > Add Layer Mask > Reveal Selection). Обрабатываете слоевую маску фильтром Filter > Blur > Gaussian Blur. Изменяете радиус и следите за тем что получается. Как наступит удовлетворение - жмете Ок.
Если видите что размер непрозрачной области не удовлетворяет - можете его изменить по-быстрому фильтрами Filter > Other Maximum (Minimum).
Следите за тем чтобы обрабатывать саму маску, а не содержание слоя.