비트연산자 (1) 썸네일형 리스트형 데이터 표현 방식의 이해 ③ 부동 소수점 오차와 비트 연산자 우리가 아는 컴퓨터는.. 오나전 똑똑하고.. 조낸 빠른.. 멋진 놈인데.... 알고보면 오점도 많은 녀석이라고 하네요.. 'ㅡ'.. 뭐 일단 인간의 손을 거쳐야 똑똑해 진다는 점도 있고.. 특히 이 '부동 소수점 오차' 문제가 있다고 합니다. 뭔지 알아보도록 합시다.. 예전에 자바에서도 배웠던거 같은데.. 이 컴퓨터라는 놈이 실수 표현에 굉장히 무딘 녀석이라고 하네요 -ㅅ-.... 말은 일단 필요없는거 같구... 'ㅡ';; 행동으로 표현을 해보입시다 ㅋ 어긋난 숫자가 나옵니다.. -_-;; 가수럴이.. 0.1 만큼 100번 더했는데.. 10이 나오질 않고 10.000002 라는 숫자가 나왔습니다. 책에서는 컴퓨터가 실수의 근사치를 표현할 뿐이고 정확한 값은 표현하지 못한다고 이야기를 하고 있습니다 -ㅅ-.. 이전 1 다음