Если вы продолжаете разговор о механизме, который я описывал, то этот механизм допускает любое представление и точность значений в выходном файле (как, впрочем, и во входном) его суть в том, что вычисляются лишь 256 значений выходной величины (с любой "точностью") и, соответственно, на выходе...