Второй тест на точность.

Копаясь на форуме музея HP, нашёл ещё один тест на точность, заключающийся в вычислении 3201 ( = 2767 = 72933.5 ).

Утверждается, что этот пример является наихудшим известным случаем для 10-символьной мантиссы (м.б. и для 13-символьной промежуточной мантиссы). Также говорится, что выражение 7.2933.5 имеет те же десятичные цифры мантиссы (10-67 от вышеуказанного числа), но обычно вычисляется точнее.

Приведу ниже точный ответ, полученный с помощью целочисленной арифметики HP 50g:
3201 = 796841966627624308016343966107338880487700357960183487923724885217277472703906548983154097132003 ≈ 7,96841966628E95

В режиме Approx получаем расхождение в 12-ом знаке (результат неплохой):
3.201. = 7,96841966626E95
27.67. = 729.33.5 = 7,96841966628E95
7.2933.5 = 7,96841966627E28

Виндовый калькулятор версии 5.1 (под Windows XP SP2) успешнее проходит импортный тест и выдаёт 32 точных знака:
3201 = 7,9684196662762430801634396610734e+95
2767 = 7,9684196662762430801634396610734e+95
72933.5 = 7,9684196662762430801634396610734e+95
7.2933.5 = 79684196662762430801634396610,734

Оценка: 2.5 (Голосов 2)

Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Сохранить установки".
Free42 for Nokia N800: Автор: Vitasam
CITIZEN, SHARP, MK152 Автор: Black_queen152
МК152 - лучший Автор: Black_queen152
Вот и хорошо... Автор: SMB
1.12 Автор: AtH
KENKO забыла! Автор: Black_queen152