В каком формате сканерил, с каким разрешением? В каком формате после обработки с каким разрешением, скока слоев?
В общем случае способоа уменьшить размер фотки насколько - уменьшить разрешение, уменьшить размер фотки, перегнать в формат поддерживающий сжатие - TIFF без потерь или JPEG - с потерями (например). Уменьшить глубину цвета, перевести в индексный цвет у (например в формат GIF) и для него уменьшить палитру