|
|
|
|
|
для: Valick
(13.08.2010 в 12:50)
| | именно! из-за разной группировки данных | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 12:45)
| | может быть разное количество округлений?
в примере который Вы привели четыре против одного | |
|
|
|
|
|
|
|
для: Valick
(13.08.2010 в 10:27)
| | >по поводу того что сервер отбрасывает четвертый знак и не учитывает его
это был основной вопрос :) посмотрел у оракула аналогично
просто получается что при разных формулах расчёта (в одной есть деление в другой нет) на равных источниках данных получается разный результат, из-за такого округления, а должно быть одинаково | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 09:39)
| | round(6.7725,2)-round(1.7625,2)-round(1.6650,2)-round(1.6800,2)
а теперь внимательно следим за моими действиями
round(6.7725-1.7625-1.6650-1.6800,2) = ?
__
по поводу того что сервер отбрасывает четвертый знак и не учитывает его, да это так, я просто думал что округляем до трех знаков а не до двух | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 09:39)
| | да без разницы...
от 0 до 4 округление в меньшуу сторону, от 5 до 9 в большую сторону и не важно какие цыфры стоят после того знака перед которым нужно осуществить округление.
http://softtime.ru/forum/read.php?id_forum=3&id_theme=74302 | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 09:20)
| | извините привёл неверный пример не 1.7625 а 1.7645 | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 09:18)
| | я ж не знаю, что у Вас за деление применяется в задаче... | |
|
|
|
|
|
|
|
для: Valick
(13.08.2010 в 09:09)
| | >былоб там 1.7655 то и получили бы 1.77
как вы могли заметить там 1.7625 а не явное 1.7655, т.е. последняя 5 влияет на изменение третьего знака, а он соответственно на изменение второго | |
|
|
|
|
|
|
|
для: Trianon
(13.08.2010 в 09:10)
| | >А деление ... придется задать в модели явные правила округления для него.
а можно поподробнее? это как? | |
|
|
|
|
|
|
|
для: ronin80
(13.08.2010 в 09:07)
| | умножение целых всегда будет целым.
А деление ... придется задать в модели явные правила округления для него. | |
|
|
|
|