JavaScript와 IEEE 754

JavaScript는 표준에서 숫자 타입은 IEEE 754-2008, 64 bit format을 따른다고 명시돼있다. 따라서 숫자 타입의 연산도 IEEE 754-2008을 따를 거로 생각했다. 하지만 ECMAScript 명세에서 NaN이나 Infinity를 포함한 연산에 대해 다른 결과를 내도록 정의한다.

그 대표적인 경우가 $1^{\mathrm{\infty }}$과 ${-1}^{\mathrm{\infty }}$이다. IEEE 754-2008는 지수를 계산하는 방법을 3가지 정의한다. 첫 번째는 $\mathrm{pown}$으로 지수가 정수인 경우에 대해 정의돼있고, 두 번째 $\mathrm{pow}$는 밑과 지수가 모든 실수인 경우 사용할 수 있도록 정의돼 있고, 마지막은 $\mathrm{powr}$으로 밑이 $0$ 이상의 실수인 경우에 대해서 정의돼 있다. 우선 첫 번째인 $\mathrm{pown}$는 지수가 $\mathrm{\infty }$가 되지 못하므로 관심 대상이 아니다. 다른 두 지수 함수인 $\mathrm{pow}$와 $\mathrm{powr}$은 $1^{\mathrm{\infty }}$에 대해 다른 결과를 내도록 정의한다. $\mathrm{pow}$는 $1$을 리턴하고, $\mathrm{powr}$는 invalid operator exception을 발생하도록 정의했다. 사실 이는 양쪽 다 이상한 것은 아니다. $\underset{x\to \mathrm{\infty }}{\lim }{1}^x$은 $1$에 수렴하지만 $1^{\mathrm{\infty }}$ 자체는 부정이기 때문에 $1$인 경우와 invalid operator exception이 발생하는 경우 양쪽 모두 말이 되기 때문이다. 그렇다면 IEEE 754-2008은 ${-1}^{\mathrm{\infty }}$를 어떻게 정의할까?

이 경우 밑이 $0$보다 작으므로 $\mathrm{pow}$만이 유효한 함수고, 이에 대해서 $1$을 리턴하도록 정의했다. $\underset{x\to \mathrm{\infty }}{\lim }{-1}^x$는 발산하고, ${-1}^{\mathrm{\infty }}$는 부정이기 때문에 이는 수학적으로 올바른 정의가 아니고, IEEE 754에서 어떻게 이렇게 정했는지는 모르겠다. 역사적인 이유이거나 이렇게 할 경우 구현이 편해지기 때문일 것인데 혹시 정확한 이유를 알고 있는 사람이 있으면 알려주기 바란다.

ECMAScript에서는 $1^{\mathrm{\infty }}$와 ${-1}^{\mathrm{\infty }}$의 연산에 대해서 $\mathrm{NaN}$을 리턴하도록 정의했다. 이는 ECMAScript는 1997년 만들어졌다. 즉, 아직 IEEE 754-2008이 나오기 전이었고 그 당시는 $\mathrm{\infty }$가 지수인 것에 대해 어떻게 계산해야 하는지 표준이 없었다. 그래서 ${\mathrm{\pm 1}}^{\mathrm{\infty }}$의 $x$가 $\mathrm{\infty }$일 경우 부정이라고 하는 수학적 성질을 따라 $\mathrm{NaN}$이라고 정하였고, format은 IEEE 754-2008을 쓰기로 한 지금도 $\mathrm{NaN}$을 리턴하도록 정해진 것이다.

또 한 가지 다른 점은 나머지 연산이다. 나머지는 $x$를 $y$로 나눴을 때, $x-q*y$로 정의된다. 이는 $x$와 $y$가 둘 다 양수일 경우 명확하지만, 둘 중 하나라도 음수가 되면 $q$를 정하는 다양한 수가 나올 수 있다. IEEE 754-2008은 이에 대해서 단순한 솔루션을 제시한다. $\mathrm{round}(x/y)$를 $q$로 삼는 것이다. 이는 간단하게 구현할 수 있지만, 일반적으로 예상하는 나머지가 나오지 않는 경우가 많아 많은 언어에서 float division은 다른 방식으로 정의하여 사용한다. 이는 ECMAScript도 마찬가지다. ECMAScript는 $\mathrm{floor}\left(\mathrm{abs}\right(x/y\left)\right)$를 절댓값으로 가지고, $x$와 $y$의 sign이 같으면 양수, 다르면 음수인 값을 $q$로 삼는다.