Скачать или смотреть АКОС 9. Числа с плавающей точкой. IEEE754. Union hack.

Числа с плавающей точкой. float/double. IEEE-754.

Внутреннее устройство: знак, мантисса, экспонента. Округление к ближайшему четному. Почему 0.1+0.2 != 0.3 и не только в js.

float(1.2) != double(1.2). Получаем максимальное значение флота, минимальное значение, +- Nan, +- inf

Переводим руками в двоичное представление.

Ведет Миша Филитов

Архитектура компьютера и операционные системы.
Семинарское занятие 238 группы ФКН ПМИ. НИУ ВШЭ

Конспект:
https://github.com/lll-phill-lll/hse_...

0:00 - вводная часть
4:26 - числа с фиксированной точкой
9:26 - числа с плавающей точкой
23:54 - числа, не представимые конечным числом бит
26:48 - округление
37:00 - получаем части float из кода (memcpy)
43:32 - получаем части float из кода (указатели)
47:00 - получаем части float из кода (union)
56:06 - получаем специальные значения: Nan, inf, max, min
1:07:08 - почему не любой int можно представить в float
1:13:22 - 0.1+0.2 != 0.3, (float)1.2 != (double)1.2