著者
尾崎 克久
出版者
[出版者不明]
巻号頁・発行日
2007-03

制度:新 ; 文部省報告番号:甲2420号 ; 学位の種類:博士(工学) ; 授与年月日:2007/3/15 ; 早大学位記番号:新4507

言及状況

Twitter (2 users, 2 posts, 1 favorites)

LU分解の行列計算の精度が悪すぎる。ひどいときは3桁ぐらいしかあってない。計算精度1%ってあまりにひどい。 精度の良い行列計算とか検索しても内容がわからん。難しい理屈はいらんので、どこかにソースコードは落ちてないのかな。。。 https://t.co/lKUHPWQNmo

収集済み URL リスト