36 Проблемы, связанные с кодированием чисел в ЭВМ
В прошлую пятницу мы познакомились с форматами хранения чисел в памяти ЭВМ. Теперь поговорим о том, почему эти знания помогают избежать тех или иных проблем при реальной работе.
Тема новая, ни разу не начитанная. Поэтому читалась в пустоту. Как и первые две части, первый смонтированный вариант я забраковал… Три часа съёмок и монтажа безжалостно полетели в корзину. Новый вариант на съёмки и монтаж потребовал всего полтора часа… Нет, на аудиторию оно читается однозначно менее трудозатратно!
Но к сожалению, во втором варианте я забыл проговорить, что типы float и double на современных платформах x86 и x64 обрабатываются аппаратно, а вот на нашем контроллере аппаратно обрабатывается только float. Вычисления с типом double реализуются программно. Напишу хотя бы в описании к видео...
Надеюсь, знания из этой трилогии кому-нибудь пригодятся…