HardEgor 66 16 января, 2016 Опубликовано 16 января, 2016 · Жалоба Как вы сами понимаете, все что после 2 знака сильно шумит. Лишняя нагрузка на контроллер по выводу информации Так с этого надо и начинать :) Можно по-колхозному замаскировать последние 20 (или 21?) биты мантиссы, вот здесь формат Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Сергей Борщ 119 16 января, 2016 Опубликовано 16 января, 2016 · Жалоба Работать с целым числом, перед выводом последние два знака запятой отделять не вариант? Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
zheka 1 16 января, 2016 Опубликовано 16 января, 2016 · Жалоба Спасибо, разобрался. Почему то в отладчике только такая байда, в устройствое все округляется. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Ruslan1 16 16 января, 2016 Опубликовано 16 января, 2016 · Жалоба Спасибо, разобрался. Почему то в отладчике только такая байда, в устройствое все округляется. просто "округлить" - никак. Принцип хранения числа почитайте, если "не тупой". Можно округлить при представлении в формате, отличном от IEEE 754, например при выводе на печать в виде текста, или при передаче в виде целого, обозначающего данное число, умноженное на 100, или еще где. Но это не то что Вы спросили. Или все-таки "то"? Вы где-то перепутали кислое с зеленым. Мне кажется, что у Вас с терминологией что-то не то, либо лично у Вас либо во всем Вашем окружении, и Вы к этому привыкли, считая нормой. Совершенно непонятно, например, что Вы хотите сказать фразой " Почему то в отладчике только такая байда, в устройстве все округляется." Какая "байда", что "все", как внешне выглядит действо "все округляется" ? Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Croman13n3c 0 17 января, 2016 Опубликовано 17 января, 2016 (изменено) · Жалоба float RoundPrecision(float value, float precision) { return floorf(value/precision + 0.5f)*precision; } Использование RoundPrecision (100.125f, 0.01f) Изменено 17 января, 2016 пользователем Croman13n3c Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться