- 著者
-
須田 礼仁
小柳 義夫
- 雑誌
- 情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)
- 巻号頁・発行日
- vol.1997, no.37(1997-HPC-066), pp.31-36, 1997-05-09
可変長指数部浮動小数点数表現形式とは指数の大きさによって指数部の長さが変化することにより、通常の浮動小数点数よりも高い精度や広い表現範囲が実現できる浮動小数点数の諸形式である。本論文では従来の方式の問題点を考察し、誤差解析やハードウェアへ実装などを考慮して、表現形式の設計基準の中に()変換にシフトが不要である ()指数部のビット長の変化が最大1であるの2点を盛り込むことを提案する。そしてこの基準を満たす表現形式をいくつか提示し、従来のものをも含めて精度や表現範囲を比較検討した。また、Kraftの不等式を用いた二重指数分割方式に関するいくつかの理論的な結果を示した。