Число половинной точности
Число́ полови́нной то́чности (англ. half precision) — компьютерный формат представления чисел, занимающий в памяти половину компьютерного слова (в случае 32-битного компьютера — 16 бит или 2 байта). Диапазон значений ± 2−24(5.96E-8) — 65504. Приблизительная точность — 3 знака (10 двоичных знаков, log10(211)).
Кодирование поля ExponentЧисла half-precision binary floating-point кодируют поле Exponent с использованием сдвига (bias) на 15.
Другими словами, для получения настоящего порядка (для Exponent от 000012 до 111102) надо из закодированного поля Exponent вычесть 15 (т.е. 011112). С помощью значений 000002 и 111112 поля Exponent кодируют специальные случаи.
Минимальное точное (subnormal) положительное значение = 2−24 ≈ 5.96 × 10−8. Минимальное (normal) положительное значение = 2−14 ≈ 6.10 × 10−5. Максимальное представляемое значение = (2−2−10) × 215 = 65504. Примеры чисел половинной точностиВ данных примерах числа с плавающей запятой представлены в двоичном представлении. Они включают в себя бит знака, экспоненту и мантиссу. 0 01111 0000000000 = +1 * 215-15 = 1 0 01111 0000000001 = +1.00000000012 * 215-15=1 + 2-10 = 1.0009765625 (следующее большее число после 1) 1 10000 0000000000 = -1 * 216-15 = −2 0 11110 1111111111 = 65504 0 00001 0000000000 = 2−14 ≈ 6.10352 × 10−5 (Минимальное нормальное положительное число) 0 00000 1111111111 = 2-14 - 2-24 ≈ 6.09756 × 10−5 (Максимальное денормализованное) 0 00000 0000000001 = 2−24 ≈ 5.96046 × 10−8 (Минимальное положительное денормализованное) 0 00000 0000000000 = 0 1 00000 0000000000 = −0 0 11111 0000000000 = infinity 1 11111 0000000000 = −infinity 0 01101 0101010101 ≈ 0.33325... ≈ 1/3 По умолчанию, 1/3 округляется вниз. Пример пересчета на языке pythondata = 31743 #0 11110 1111111111
sign = data >> 15
mantissa = (data & 0x3FF)
degree = (data >> 10) & 0x1F
result = ((-1) ** sign) * (2 ** (degree-15)) * (1 + mantissa/2**10)
print(result)
#результат выполнения программы 65504
Пределы точности на целых числахЦелые между 0 и 2047 представляются точно См. также
|