Можно попробовать так:
Создайте две окружности, между которыми нужно вписать узор. Затем определите размер сегмента, в который нужно будет вписать повторяющийся элемент узора, чтобы пропорции примерно соответствовали соотношению ширины и высоты узора (это уменьшит его деформацию, когда будете вписывать). Угловой размер сегмента должен быть таким, чтобы 360 градусов деленные на этот угловой размер, давали целое число: например 15 или 20 градусов - соответственно дадут 24 или 18 повторяющихся узоров.
Выделите такой сегмент с помощью guidelines, проходящих через окружность. Затем повторяющийся узор преобразуйте в envelope. И впишите envelope в выделенный Вами сегмент (контур сегмента деформируйте криволинейно, подгоняя под размеры сегмента). На этом этапе важно состыковать линии Вашего узора, чтобы они были непрерывны, когда узор преобразуется по кругу.
А потом дублируйте этот элемент с поворотом (Transformations / Rotate).
- вот примерно как это выглядит.