Поставь нужные значения кисти, как я уже говорил. Рисуй свою рамку инструментом Rectangle Tool (Rounded Rectangle Tool) в режиме Create new work path (в верхней линейке должна быть включена иконка "прямоугольник с пером ручки"), затем stroke path (tool - pencil уже с твоими установками dashed или dotted line). Существенный недостаток - если форма кисти у тебя прямоугольная, а не квадратная или круглая, короткие линии будут всегда горизонтальны. С квадратиками и кружочками все проще.