Почему мой калькулятор Windows показывает постоянную ошибку преобразования?

278
Rbma12

Когда я использую стандартный калькулятор windows xp (v1.0.0.908) для перевода миль в футы, он показывает 1 милю в час = 5280 футов. Но когда я конвертирую mph в fph, он говорит, что 1mph = 5279.98944 футов в час. И если я делаю то же самое, используя калькулятор игрушек Windows Power, он говорит, что 1 миль / ч = 1760 футов / час. Это, вероятно, смахивает ярдов, но я действительно стесняюсь доверять кому-либо из них для чего-то кроме простых вопросов. пс. если вы поделите 5280 на ошибку, вы получите ровно 500 000. Все остальные преобразования кажутся точными (м / с-миль / ч, км-м / с) - это только то, что касается футов.

Есть идеи?

0
Каков твой вопрос? gronostaj 7 лет назад 3
Почему там ошибка? Rbma12 7 лет назад 0
Это ошибка программирования, ошибка округления, признак скорой смерти моего компьютера? Является ли ошибка глобальной? Хотя я должен был упомянуть, что я только что установил пакет обновления 4 на XP pro sp3. Rbma12 7 лет назад 0
Проблемы точности с плавающей точкой. Все компьютеры делают это, но это не имеет большого значения в повседневной жизни. Только начинает играть существенную роль в научных расчетах. gronostaj 7 лет назад 0
В школе я столкнулся с этой проблемой с помощью простой программы преобразования температуры, но только с отрицательными значениями. Меню справки этого калькулятора использует фразу «предельная точность» примерно 10 раз. Это простой расчет. Rbma12 7 лет назад 0
Читайте о числах с плавающей запятой и [связанных с ними ошибках точности] (https://en.wikipedia.org/wiki/Floating_point#Accuracy_problems). Короче говоря, компьютеры не могут хранить все числа с точной точностью, они используют хорошие приближения. Со временем эти небольшие отклонения складываются, и в результате вы получаете такие результаты, как `0.1 + 0.2 = 0.30000000000000004` или то, что вы обнаружили. gronostaj 7 лет назад 0

0 ответов на вопрос

Похожие вопросы