Эшу быдлокодит

FEDOR BORSHEV

Запретить float Что только не хранят программисты во float — деньги, количество и вес, сотни всего. Особенно умиляют координаты — неужели они их реально складывать и вычитать собираются? Если кто не знает, float — это числа с плавающей точкой, которые не…

Таки да, года полтора назад, по неопытности, из-за float было много боли. Как правило, float начинает выдавать ерунду в 8-9 знаке и в целой части, и после запятой.

Я делал какие-то преобразования со временем в формате ticks (интервал длиной в сотню наносекунд). И долго не мог понять, почему у меня на промежутке времени в 30 лет вылезает неопознанная погрешность в 20-30 секунд.

В итоге, я просто перешел на double и проблема рассосалась. Но с тех пор возникло правило: начались странности с численными значениями? А проверь-ка, не используются ли где float?

www.tgoop.com/eshu_coding/67

177 viewsEshu Marabo, edited  Jul 20, 2020 at 10:52

Таки да, года полтора назад, по неопытности, из-за float было много боли. Как правило, float начинает выдавать ерунду в 8-9 знаке и в целой части, и после запятой.

Я делал какие-то преобразования со временем в формате ticks (интервал длиной в сотню наносекунд). И долго не мог понять, почему у меня на промежутке времени в 30 лет вылезает неопознанная погрешность в 20-30 секунд.

В итоге, я просто перешел на double и проблема рассосалась. Но с тех пор возникло правило: начались странности с численными значениями? А проверь-ка, не используются ли где float?

BY Эшу быдлокодит