Вначале сбросьте все коррекции.
Она - это референтная точка? Она сидит в мозгах абсолютного датчика, станок для определения своей системы координат использует ее смещение, заданное в вышеупомянутом параметре, для вас - это ноль станка, отсюда и пляшите. программные конечники выставляйте сами, согласно физическому диапазону перемещения оси, плюс, доп. ограничения (задняя бабка и т.д.).
Количество знаков после запятой в параметре смещения REF определяется техническими характеристиками станка, как правило, достаточно микрона.