Ну, теоретически, самый светлый цвет в выделении будет близок к верху хистограммы на каждом канале, хотя это достаточно грубое допущение. Можно преобразовать в Lab или даже Gray, выбрать самую светлую область и найти ее цвет опять же при помощи той же хистограммы.