著者

小沢 一文

出版者

一般社団法人情報処理学会

雑誌

情報処理学会論文誌 (ISSN:18827764)

巻号頁・発行日

vol.21, no.2, pp.100-107, 1980-03-15

被引用文献数

2

---

この論文では 仮数分布は逆数分布であるという仮定を用い 浮動小数点演算において生ずる相対丸め誤差の分布を求めている.また 適合度の検定を行うことによって その分布の妥当性を確認している.その分布を用いて 相対丸め誤差の平均 分散を与える公式も導いている.この公式は パラメータd(≡b^(-i) bは基底で tは仮数の語長のベキ級数展開の形をとっていて その第一項はTsao等によって得られた公式そのものである.実験結果は 有効桁が少ないとき(dが大きいとき)は本論文の公式の方が秀れていることを示している.

著者

小沢 一文 海野 啓明

雑誌

情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)

巻号頁・発行日

vol.1990, no.24(1989-HPC-032), pp.1-8, 1990-03-17

---

多倍長浮動小数点数の高速な除算法を提案する。この計算法を用いると乗算と同じ速さで除算が実行できる。ここで提案するのは、O(n^2)(nは桁数)のアルゴリズムであり、我々が紙と鉛筆によって行なう方法(divide-and-correct法)を用いている。divide-and-correct法では、(単精度数)×(多倍長数)という演算がn回行なわれるが、ここではこの計算過程を省力化することによって高速化を達成している。時間計算量の解析を行なった結果、本アルゴリズムはニュートン法を用いる方法の3倍高速であることが判明した。また誤差解析の結果、本アルゴリズムの相対誤差はmachineεのオーダであることが判明した。