Ошибка похоже связана с уравнением: Y = B/3 + 10mm
Результат будет зависеть от округления, т.к. на конце 6 в периоде, так при 76,667 (если в уравнении или размере задать Y=76,667) будет 14207,372, при Y=76,6667 будет 14207,338 (при округлении наш результат), при Y=76,66667 будет 14207,335 (при наращивании шестёрок дальше результат не меняется и при округлении даёт нужный результат), а если использовать формулу то значение массы 14207,334 (при обычной точности подсчёта массы)
А так же при использовании формулы Y = B/3 + 10mm есть зависимость в точности подсчёта массы через Инст