[shkal 0]

Имеем вычисление по простейшей формуле F=A*B/C.

A, B, C имеют тип long int, F - long double.

Строка F=(((long double)(А))*B )/С; при А=65535, В=2500000, С=5000002 даёт результат, совпадающий с виндовым калькулятором только до 9 знака.

Где я теряю точность?

Компилятор Микрочип С30, мк PIC24H.

Изменено 15 августа, 2011 пользователем shkal

[sergeeff 1]

Имеем вычисление по простейшей формуле F=A*B/C.

A, B, C имеют тип long int, F - long double.

Строка F=(((long double)(А))*B )/С; при А=65535, В=2500000, С=5000002 даёт результат, совпадающий с виндовым калькулятором только до 9 знака.

Где я теряю точность?

Компилятор Микрочип С30, мк PIC24H.

 

А вас погрешность в одну миллиардную не устраивает? Или это чисто из спортивного интереса?

[AHTOXA 15]

Где я теряю точность?

А чему равен sizeof(long double)?

[shkal 0]

64 бита стандартный IEEE-754

[shkal 0]

Сорри, разобрался, всё правильно считается.