Новости
FAQ
Авторы
Документация
В действии
Библиотека
Инструменты
Полезные ссылки
Хостинги
Скачать
Примеры
Форум
Форум
Войти
|
Регистрация
Логин
Пароль
Написать ответ на текущее сообщение
Ключевое слово
Фильтровать по автору
команды управления поиском
Попробую поменять проверку на равенство double
moko
26.08 19:23
С опциональной возможностью задания порога по ULP, при котором числа считаются равными
https://en.wikipedia.org/wiki/Unit_in_the_last_place
Но вообще результаты арифметических операций проверять на точное равенство — занятие сомнительное...
decimal: планируется ли?
,
virusav
22.08 11:19
Чит: замена == на eq
,
moko
[M]
24.09 17:46
Попробую поменять проверку на равенство double
,
moko
[M]
26.08 19:23
^math:eq(a;b[;максимальная разница]) - в ночных сборках
,
moko
[M]
01.09 22:10 / 01.09 22:10
Ответ
,
virusav
26.08 20:27 / 26.08 20:27
Либо делать свой класс и хранить всё в интах, и либо считать в СУБД, которые поддерживают fixed-point операции
,
Sumo
[M]
29.08 10:07
Пока так и храним в интах :). Либо abs(a-b)<0.000000001
,
sergei v.2
29.08 19:08