Популярное

Музыка Кино и Анимация Автомобили Животные Спорт Путешествия Игры Юмор

Интересные видео

2025 Сериалы Трейлеры Новости Как сделать Видеоуроки Diy своими руками

Топ запросов

смотреть а4 schoolboy runaway турецкий сериал смотреть мультфильмы эдисон
dTub
Скачать

Fixed Point Maths Explained - Retro Programming

Автор: NCOT Technology

Загружено: 2021-11-14

Просмотров: 5139

Описание:

A video explaining how fixed point maths works and why it is useful on CPUs that have no floating point units.

A written version of this is available on my website, linked below

Fixed point maths is a way to deal with decimal numbers, on systems where they don't have the ability to use decimals. The basic concept is to scale all numbers up by a certain amount to remove any decimal parts of the number. Then you can work with whole numbers only, scaling back down when needed.

What scale you use depends on the range of numbers needed for a particular situation. It can also depend on what the hardware is best at managing. A Z80 CPU for example can work with 16 bit values reasonably easily. And if you’re not trying to do complex accurate scientific calculations, the resolution of your machine’s screen is likely to be a factor as well.

But if you want a quick one to use, this explanation uses what is called 8.8 fixed numbers. That is a 16 bit value where the upper 8 bits are the whole number and the lower 8 bits the fractional part. With an imaginary binary point in the middle.

Link to website: https://ncot.uk/devnotes/computing_ma...

Chapters

00:17 Maths is hard
00:56 Floating point maths
01:45 I have more videos!
03:53 What we're trying to do
04:57 Example with money
06:39 Introducing fixed point maths
08:28 negative numbers
10:39 Explaining fixed point
15:03 Summary

Fixed Point Maths Explained - Retro Programming

Поделиться в:

Доступные форматы для скачивания:

Скачать видео mp4

  • Информация по загрузке:

Скачать аудио mp3

Похожие видео

Back To Basics! Fixed Point Numbers in C++

Back To Basics! Fixed Point Numbers in C++

Retro MS-DOS Coding - Recreating the Iconic Award BIOS Screen

Retro MS-DOS Coding - Recreating the Iconic Award BIOS Screen

how floating point works

how floating point works

Wait, so comparisons in floating point only just KINDA work? What DOES work?

Wait, so comparisons in floating point only just KINDA work? What DOES work?

Ностальгическая разработка DOS. Часть 1 - FreeDOS, DJGPP, RHIDE и прочее безумие.

Ностальгическая разработка DOS. Часть 1 - FreeDOS, DJGPP, RHIDE и прочее безумие.

How Floating-Point Numbers Are Represented

How Floating-Point Numbers Are Represented

Floating Point Numbers - Computerphile

Floating Point Numbers - Computerphile

Why This Circuit Works When It Shouldn’t

Why This Circuit Works When It Shouldn’t

Floating Point Numbers (Part1: Fp vs Fixed) - Computerphile

Floating Point Numbers (Part1: Fp vs Fixed) - Computerphile

Programming Windows Screensavers - Agon Light Graphics Programming

Programming Windows Screensavers - Agon Light Graphics Programming

Embedded Signal Processing

Embedded Signal Processing

Конечные автоматы — как разработать лучшее программное обеспечение

Конечные автоматы — как разработать лучшее программное обеспечение

Fixed Point Arithmetic 1: Intro to Fixed Point

Fixed Point Arithmetic 1: Intro to Fixed Point

NO ONE Can Explain PAST & FUTURE Like Richard Feynman

NO ONE Can Explain PAST & FUTURE Like Richard Feynman

Fixed Point Decimal Numbers - Including Fixed Point Arithmetic

Fixed Point Decimal Numbers - Including Fixed Point Arithmetic

Как финский гик ВЫНЕС Майкрософт и стал богом айти // Линус Торвальдс

Как финский гик ВЫНЕС Майкрософт и стал богом айти // Линус Торвальдс

Why Is This Happening?! Floating Point Approximation

Why Is This Happening?! Floating Point Approximation

Программирование на ассемблере без операционной системы

Программирование на ассемблере без операционной системы

Lecture 20. Fixed Point Numbers

Lecture 20. Fixed Point Numbers

Вейвлеты: математический микроскоп

Вейвлеты: математический микроскоп

© 2025 dtub. Все права защищены.



  • Контакты
  • О нас
  • Политика конфиденциальности



Контакты для правообладателей: [email protected]