Перейти к содержанию
    

Как округлить float до сотых?

Как вы сами понимаете, все что после 2 знака сильно шумит. Лишняя нагрузка на контроллер по выводу информации

Так с этого надо и начинать :)

Можно по-колхозному замаскировать последние 20 (или 21?) биты мантиссы, вот здесь формат

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Работать с целым числом, перед выводом последние два знака запятой отделять не вариант?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Спасибо, разобрался. Почему то в отладчике только такая байда, в устройствое все округляется.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Спасибо, разобрался. Почему то в отладчике только такая байда, в устройствое все округляется.

просто "округлить" - никак. Принцип хранения числа почитайте, если "не тупой".

Можно округлить при представлении в формате, отличном от IEEE 754, например при выводе на печать в виде текста, или при передаче в виде целого, обозначающего данное число, умноженное на 100, или еще где. Но это не то что Вы спросили. Или все-таки "то"?

 

Вы где-то перепутали кислое с зеленым.

Мне кажется, что у Вас с терминологией что-то не то, либо лично у Вас либо во всем Вашем окружении, и Вы к этому привыкли, считая нормой.

Совершенно непонятно, например, что Вы хотите сказать фразой " Почему то в отладчике только такая байда, в устройстве все округляется." Какая "байда", что "все", как внешне выглядит действо "все округляется" ?

 

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

float RoundPrecision(float value, float precision)
{
    return floorf(value/precision + 0.5f)*precision;
}

 

Использование

 

RoundPrecision (100.125f, 0.01f)

Изменено пользователем Croman13n3c

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Присоединяйтесь к обсуждению

Вы можете написать сейчас и зарегистрироваться позже. Если у вас есть аккаунт, авторизуйтесь, чтобы опубликовать от имени своего аккаунта.

Гость
Ответить в этой теме...

×   Вставлено с форматированием.   Вставить как обычный текст

  Разрешено использовать не более 75 эмодзи.

×   Ваша ссылка была автоматически встроена.   Отображать как обычную ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставлять изображения напрямую. Загружайте или вставляйте изображения по ссылке.

×
×
  • Создать...