부동소수점 (+ 실수계산 오차가 생기는 이유)

• 컴퓨터는 한정된 메모리 공간을 최대한 효율적으로 사용하기 위해 부동 소수점 방식을 사용하여 실수를 표현한다. 이 때문에 실제 값과 컴퓨터가 계산한 값 사이에는 오차가 발생할 수 있다.

• 이 오차는 컴퓨터가 10진수를 2진수로 변환하면서 발생하는데, 이는 10진수의 일부 값들이 2진수로 정확하게 표현되지 못하기 때문이다. 예를 들어, 10진수의 0.1은 2진수로 변환하면 무한 소수가 되어 정확한 계산이 불가능하다.

• 이러한 오차를 보완하기 위해 정확한 실수 계산이 필요한 경우에는 라이브러리를 사용할 수 있다. 예를 들어, 자바에서는 BigDecimal을, 자바스크립트에서는 decimal.js 등의 라이브러리를 사용하여 정확한 계산을 할 수 있다.