Excel即効テクニック〜数値の表示桁数と誤差にご用心
日経パソコン 第408号 2002.4.29
掲載誌 | 日経パソコン 第408号(2002.4.29) |
---|---|
ページ数 | 4ページ (全4918字) |
形式 | PDFファイル形式 (358kb) |
雑誌掲載位置 | 175〜178ページ目 |
小数の表示桁数と有効桁数を理解する 今回は、小数にまつわる桁数の扱い方とその注意点について紹介したい。 まず、小数が延々と続く値、例えば円周率を入力してみよう(図1)。Excelには円周率を返すPI関数もあるが、ここでは小数点以下第20位までを手入力してみる。[Enter]キーで入力を確定すると、セルには小数点以下第9位までしか表示されない(図2)。Excelが入力した値を忘れてしまったのだろうか…
記事の購入(ダウンロード)
購入には会員登録が必要です 会員登録はこちら
価格 550円(税込)
他のIDで購入する
G-Search ミッケ!は雑誌を記事ごとに販売するサービスです。
この記事は「4ページ(全4918字)」です。ご購入の前に記事の内容と文字数をお確かめください。
(注)特集のトビラ、タイトルページなど、図案が中心のページもございます。