1 0 0 0 OA URR浮動小数点数のための 高速演算装置の基本設計と実装
- 著者
- 大山 光男
- 出版者
- 加計学園倉敷芸術科学大学
- 雑誌
- 倉敷芸術科学大学紀要 = The bulletin of Kurashiki University of Science and the Arts (ISSN:13443623)
- 巻号頁・発行日
- no.13, pp.45-57, 2008-03-01
言及状況
Twitter (1 users, 1 posts, 0 favorites)
@haskellheads FPU(浮動小数点演算ユニット）で処理するので、整数の除算と同等、場合によっては速いこともありますね。
昔、IntelのCPUで、FPUの持っている除算テーブルに誤りがあって特定の値の除算だけ結果が狂う、なんてこともあったな．．．
https://t.co/5XoAhEHJo7