В их новой UXP платформе полно косяков.
Так понимаю что для работы нужного вам фильтра окно должно быть в модальном состоянии (видимо перед началом обработки вызывается какая-то функция, которая доступна только при активной панели). Т.е. кривовато, но работающий сценарий:
1. Пишете экшен
2. У команды вызова этого фильтра ставите значок модального режима
Запускаете батч и параллельно какой-нибудь AHK чтобы он в цикле клацал enter раз, скажем, в пять секунд (к счастью эта панель фильтров не ловит enter пока идет обработка, как только она завершена фокус передается кнопке Ok и enter применяет фильтр). Да, это блокирует работу на компьютере (так как окно фотошопа должно быть активно), но тем не менее задачу выполнить можно.