PHP/Lua 로그 함수, 부동 소수점 부정확성으로 인한 비단조성 문제
by DD
15시간 전
조회수 0
PHP와 Lua에서 `log` 함수의 부동 소수점 부정확성(Floating-point Inaccuracy)으로 인한 비단조성(Non-monotonicity) 문제가 제기됨
특정 조건에서 `log(x, a) < log(x, b)`가 성립해야 하지만, PHP와 Lua에서는 결과가 반대로 나오거나 같게 표시되는 현상 발생
libm 라이브러리 구현 방식과 특정 밑(base)에 대한 특수 처리(Special Casing)가 원인으로 지목됨
Python, Rust, C# 등에서는 동일한 조건에서 올바른 결과 또는 다른 부정확성 패턴을 보임
로그 함수 구현의 부동 소수점 부정확성(Floating-point Inaccuracy)
논의에서는 `log(x, a)` 계산 시 `ln(x) / ln(a)` 공식을 사용하는 과정에서 발생하는 이중 반올림(Double Rounding) 및 나눗셈 오차(Division Error)가 핵심 문제로 지적된다. 특히 `log(x, 10)`과 같이 특정 밑(base)에 대한 직접 구현(Direct Implementation)이 존재할 경우, `ln(x) / ln(a)` 방식과 다른 계산 경로를 타게 된다. 이로 인해 경계선에서의 불연속성(Discontinuity at the Boundary)이 발생하며, 이는 예상치 못한 비단조성(Non-monotonicity)을 야기한다고 설명한다.
PHP와 Lua의 특수 처리(Special Casing) 문제
PHP와 Lua는 `log` 함수에서 밑(base)이 10 또는 2일 때, `ln(x) / ln(a)` 대신 `log10(x)` 또는 `log2(x)`를 직접 호출하는 최적화 기법(Optimization Technique)을 사용한다. 이는 해당 함수들이 더 빠르고 정확할 수 있기 때문이지만, 두 계산 방식 간의 가 누적되어 특정 입력값에서 `log(x, a) < log(x, b)`와 같은 을 위배하는 결과를 초래한다고 지적한다. 이는 의 트레이드오프(Trade-off)로 볼 수 있다.
