Создаем новый channel - channels/New channel. Создаем
выделение прямоугольником , затем Select/Inverse и заливаем его белым цветом
(Edit/Fill Use:White).
Отменяем выделение - Select/None и используем
какой-нибудь фильтр, например Filter/Pixelate/Color Halfone
(Параметры подберите по вкусу).
Переходим обратно в RGB channel и загружаем
созданный нами шаблон - Select/Load Selection/#4. Затем
заполняем (Edit/Filд) цветом фона на котором будет
лежать фотка. Готово :).
Ниже приведено несколько примеров с
разными фильтрами: