著者
平山 弘
雑誌
情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)
巻号頁・発行日
vol.1992, no.26(1991-HPC-040), pp.1-8, 1992-03-21

多倍長数の数の乗算には、高速フーリエ変換 () を使えば原理的には高速に計算できることはよく知られたことである。この計算は倍精度浮動小数点演算で行うのが高速で有効な方法である。この場合、計算途中で誤差が生じる。この計算法を使うには、この誤差がどの程度の大きさであるか知る必要がある。本論文では、解析的方法、半解析的方法、数値方法によってその誤差がどの程度大きさであるかを調べた。FFTを使った計算は、計算機の僅かな計算精度の違いによって、計算できる桁数が大きく変化することがわかる。1語に5桁の数値を入れた多倍長数の場合、仮数部が53ビットのIEEE方式の場合約5万桁、56ビットのIBM方式のとき、16万桁の計算が可能である。

言及状況

Twitter (4 users, 5 posts, 3 favorites)

2 2 https://t.co/wxIMOnCsGt
1 1 https://t.co/20inBgwAso
FFTによる多倍長数乗算法の誤差 https://t.co/ztnYMvwdAo 誤差について言及してる文書やっと見つけた

収集済み URL リスト