При активном слое с изображением нажимаешь на вторую слева иконку в нижней части панели слоев (Add vector mask). Или делаешь это через меню Layer/Add Vector Mask/Reveal All. Появляется слой-маска, привязанная к твоей картинке. На слое-маске рисуешь любым доступным тебе инструментом, например, прямоугольным выделением, рамку, отступив от краев изображения на столько, на сколько тебе это нужно. Не забудь, что ты должен работать с выделением на активном слое-маске, а не на слое с изображением. Можешь сразу задать величину размытия (feather) своего прямоугольника, а можешь этого и не делать. Затем заливаешь выделенную область черным цветом. Снимаешь выделение и делаешь инверсию своей маски (Image/Adjustments/Invert). После этого фильтром Blur/Gaussian Blur размываешь края маски. Вот как должна выглядеть панель слоев в твоем случае.