Ответ: рамка
Вот сейчас вроде получилось. Переводишь бэкграунд в слой. Создаешь альфа-канал. В нем выделяешь нужную область размытым эллипсом (радиус 30-40), зависит от размера изображения. Кстати, можно и не размытым. Заливаешь (в альфа-канале!) эту область белым. Затем здесь же фильтр Pixelate-Color Halftone. Параметры настраиваешь, как тебе нравится. Потом держишь CTRL и клик на альфа-канале, появляется выделеная область. Возвращаешься в изображение, выделение остается, инвертируешь выделение (CTRL+Shift+I), потом CTRL+X. Ну вроде бы и все.