Ответ: не заливается контур
Что-то типа этого я и предполагал.
Козак, тут не демиарт - не надо иллюстрировать чужие сообщения и демонстрировать свой ламеризм.
Если у вас слой с векторной маской граница которой используется для слоевых эффектов, то вы можете замаскировать его слоевой маской непосредственно. А чтобы она маскировала в том числе и слоевые эффекты типа обводки, в свойствах слоя надо включить Layer Mask Hides Effects.
Однако если маскирование не требует альфа-канала, то есть не нужны градиентные прозрачности, то эффективнее маскировать векторной же формой. Существует два пути: Knockout и Clipping.
В первом случае вы кладете форму поверх целевого слоя, задаете Fill=0, и в свойствах смешивания включаете опцию Knockout: Shallow. При этом оба слоя должны находится в группе (в сете), иначе дырка будет до самого фона, а если его нет - до клеточек. При этом не надо связывать слои для одновременных трансформаций (например перемещения) - трансформируйте саму группу (сет).
Knockout скрывает все что попадает в границы слоя, показывая то, что выходит за его границы.
Во втором случае кладете маскирующую форму под слой, задаете ей Fill=0, создаете из двух слоев Clipping Group и для слоя маскирующей формы отключаете включенную по умолчанию опцию Blend Clipped Layer As Group. Чтобы оба слоя можно было трансформировать одновременно - связываете их (linking).
Clipping действует наоборот- он скрывает все что вне его границ, показывая только то, что внутри них.
Как вариант - результат обоих методов можно закинуть в смарт и получить один слой готовый к недеструктивной трансформации, а для пользователей цс3 и 4 - и для недеструктивной фильтрации.