Создаем новый chanel. Рисуем на нем то, что
собираемся скруглить
Запускаем фильтр Filter/Blur/Gaussian Blur параметр
Radius устанавливаем в зависимости от желаемого
округления (чем больше значение Radius тем боле
скругленными будут углы), я использовал значение
Radius: 4 pixels.
Использеум команду Image/Adjust/Levels. В
открывшемся окне необходимо переместить крайние
треугольники ближе к центральному. Их необходимо
расположить так ,чтобы изображение было четким, и
гладким по краям.