2014-01-24から1日間の記事一覧
Javaプログラマ向け、Objective-Cの10進数クラスの話。JDK 7, Xcode 5.0 浮動小数点型では、10進数の小数部を正しく表現できないことが多い。 具体的には、2の-n乗の値の組み合わせでしか小数値を表せない。 これはIEEE 754の仕様上、当然のことである。たと…
Javaプログラマ向け、Objective-Cの10進数クラスの話。JDK 7, Xcode 5.0 浮動小数点型では、10進数の小数部を正しく表現できないことが多い。 具体的には、2の-n乗の値の組み合わせでしか小数値を表せない。 これはIEEE 754の仕様上、当然のことである。たと…