В общем эмипирическим путем вычислено - порядок в selection определяется как выделять - например через Shift или мышкой - какой объект попал в выделение последним - тот и будет последним в массиве.
Index действительно показывает уровень расположения на странице. Единственная проблема - если брать индекс у не группированных объектов - все работает. Если брать у нескольких разных групп - тоже работает.
А вот если смесь групп и простых объектов - начинается наложения. В общем у групп в Indesign свой индекс, у не группированных - свой, и они спокойно совпадают (0,1,2,3,4,... 0,1,2,3,4...)