著者
大山 博毅
出版者
Waseda University
巻号頁・発行日
2004

計算機があらゆる分野で活用されている今日,計算機による数値計算というものは非常に重要になってきている.しかし,その数値計算は浮動小数点数演算によって行われているため,丸めによる誤差を含んでしまい,その精度に関しては保証されていない.このような問題に対し,近年,近似解を計算すると同時にその正しさを数学的に保証する方法に関する研究が盛んになっている.このような技法は精度保証付き数値計算とよばれている.本論文ではDekker,Knuthの定理を利用し,実行環境としてIntelより提供されているItanium2プロセッサが持つFMA(Fused Mutiply-Add)を利用することにより,数値演算の結果を高速かつ高精度に求めることを目的とする.

言及状況

はてなブックマーク (1 users, 1 posts)

Twitter (3 users, 3 posts, 1 favorites)

Super cool! > FMA を利用した行列積の高精度演算 https://t.co/Z7r8kI07sR

収集済み URL リスト