プログラムはなぜ動くのか 第3回〜コンピュータが小数計算を間違える理由
日経ソフトウェア 第28号 2000.9.1
掲載誌 | 日経ソフトウェア 第28号(2000.9.1) |
---|---|
ページ数 | 6ページ (全7607字) |
形式 | PDFファイル形式 (296kb) |
雑誌掲載位置 | 120〜125ページ目 |
あなたは「正確無比なコンピュータが計算を間違えるはずなどない」と思っているかもしれません。ところが実際には,プログラムの実行結果として正しい値が得られないこともあるのです。その一例が小数点数の計算を行った場合です。今回は,コンピュータが小数点数を取り扱う仕組みを説明します。これも,すべてのプログラマが身に付けておかなければならない基礎知識の一つです。この知識があれば,それを回避する方法もわかるは…
記事の購入(ダウンロード)
購入には会員登録が必要です 会員登録はこちら
価格 550円(税込)
他のIDで購入する
G-Search ミッケ!は雑誌を記事ごとに販売するサービスです。
この記事は「6ページ(全7607字)」です。ご購入の前に記事の内容と文字数をお確かめください。
(注)特集のトビラ、タイトルページなど、図案が中心のページもございます。