著者

小沢 一文

出版者

一般社団法人情報処理学会

雑誌

情報処理学会論文誌 (ISSN:18827764)

巻号頁・発行日

vol.21, no.2, pp.100-107, 1980-03-15

被引用文献数

2

---

この論文では 仮数分布は逆数分布であるという仮定を用い 浮動小数点演算において生ずる相対丸め誤差の分布を求めている.また 適合度の検定を行うことによって その分布の妥当性を確認している.その分布を用いて 相対丸め誤差の平均 分散を与える公式も導いている.この公式は パラメータd(≡b^(-i) bは基底で tは仮数の語長のベキ級数展開の形をとっていて その第一項はTsao等によって得られた公式そのものである.実験結果は 有効桁が少ないとき(dが大きいとき)は本論文の公式の方が秀れていることを示している.