dimy44, спасибо за ссылку, очень интересная статья
Вообще, если честно, никогда ранее особо нe интересовался вопросами подобного плана и обнаружил эту 'неточность' совершенно случайно при проверке правильности решения уравнения)
П.с. я говорил нe 'единственный', а 'естественный' - в том смысле, что погрешность в данном случае вполне естественна.
FanatGD, ошибки(судя по прочитанной статье) и нет, но погрешность такова, что произведение в той функции, что я писал выше, выходит нe 0(и даже нe NaN), а 1.
Кстати, о NaN'ах.
>>> cos(99999999998*pi)
NaN
Логику данного вычислительного аппарата понять, однако, трудно)
ответ опубликован:
Рейтинг: 5
голосов: 2
- 5
- 1
- 2
- 3
- 4
- 5

