[過去ﾛｸﾞ] 関数電卓・グラフ電卓総合 [無断転載禁止]©2ch.net (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
903(1): 893 2018/05/24(木)06:40 ID:a2CKAIhn(1/2) AAS
>>902
Primeは
π - 3.14159265359
= 0
だから
そもそもその計算には意味がない
TIは-2.E-13になる
905(4): 2018/05/24(木)18:02 ID:a2CKAIhn(2/2) AAS
他の電卓は12桁表示でも
15桁まで正しいとか精度に差がある
だから内部精度最大保持の
πやeとの差を求めてみる
HPの電卓は最大表示以上の
精度は(計算結果には)ないし
πもeも同様なので
わざわざ差を出す意味がない
表示がすべて
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.168s*