int형 나누기 어쩔 땐 되고 어쩔땐 nan으로 표시되는 이유는??
튼싹
2023.04.01
질문 제목 : int형을 나눠서 double형 값을 얻고자 하는데 이전의 나누는 값과 나눠지는 값이 같은데 같은 프로그램에서
하나는 결과를 내고 하나는 결과를 못 내는 이유는 어디에 있는지??질문 내용 :
int a = 12657;
int b = 18992;
double result = 0;
result = (double)a/(double)b * 100.0000;
하면 왜똑같은 값으로 하면하나는 제대로 낸 값을 내고 하나는 왜 nan의 값을 내는건가요? 제가 지금 simulator상에서 저 코드를 실행하는건데 -nan이 나와서 답답하네요. simulator가 불안전해서저 결과 값을 내는건가요?
읽어주셔서 고맙습니다.
-
김애교
코드자체보다 simulator상에서 뭔가 문제가 있는듯 해서 이전값 saving해서 만약 현재값이 nan이면 이전값으로 대체하는 방식으로 해결했네요. ㅎ 답변 고맙습니다.
-
인1형녀
저 코드 자체는 nan이 나올 일이 없는것같아요.