特集２　プログラムを動かすために　コンピュータは何をしているのか〜浮動小数点数
日経ソフトウェア　第243号　2016.12.1

この記事の情報
掲載誌	日経ソフトウェア　第243号（2016.12.1）
ページ数	2ページ　（全2043字）
形式	PDFファイル形式　（3323kb）
雑誌掲載位置	78〜79ページ目

２進数では１０進数の小数を正確に表現できないこともある　実は、コンピュータでは正確な数値を表現できないことがあります。その最たる例が小数です。どんな高速なＣＰＵを使っても、１０進数の小数を正確に表せないことがあるのです。　例えば、Ｃ言語で記述したリスト１のコードを考えてみましょう。「１．１５−０．１５」という、小数同士の計算結果と数値の「１．０」を比較するコードです。人間には、パッと見ただけでも計…