wizzard: (Default)
[personal profile] wizzard

#define R_PU_33 17890UL
#define R_PD_33 988UL
#define ADC_V_REF 2560UL

#define MV_TO_ADC(MV,  R_PU, R_PD) (((MV)*(unsigned long)1024UL*(R_PD))/((ADC_V_REF)*((R_PU)+(R_PD))))

int _tmain(int argc, _TCHAR* argv[])
{
    unsigned long i=0;
    i=MV_TO_ADC(33000UL, R_PU_33, R_PD_33);
    printf("%l", i);
    return 0;
}

Этот код печатает “68” из-за integer overflow в числителе, несмотря на то, что везде где можно воткнуты unsigned long, и правильный ответ 690.

Что делать? Вручную раскрывать макросы не хочется, их подобных много. Проверено на msvc, gcc и avr-gcc (ATMEL).

Date: 2010-01-04 02:11 pm (UTC)
From: [identity profile] zeux.livejournal.com
На всякий случай, отмечаю.

а. препроцессор не при чем, он ничего не вычисляет в данном случае, он просто подставляет текст. Вычисляет компилятор, либо процессор (если компилятор не схлопнул выражение в константу).
б. Базовые законы математики вообще не выполняются в целочисленной арифметике, с учетом truncate при делении и under/overflow :)

Date: 2010-01-04 02:42 pm (UTC)
From: [identity profile] sashman.livejournal.com
а. вот она, протечка абстракций.
мне всё равно, кто будет считать, препроцессор, компилятор или вообще линкер, лишь бы не таргет процессор, и не программист с калькулятором.
б. втихаря же не выполняются.

Profile

wizzard: (Default)
wizzard

January 2019

S M T W T F S
  12 345
6789101112
1314 1516171819
202122 23242526
2728293031  

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Dec. 31st, 2025 04:19 am
Powered by Dreamwidth Studios