[過去ログ] プログラミングのお題スレ Part16 (1002レス)
1-

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
903
(1): 581 2020/02/01(土)13:38 ID:6JPjRL8V(2/2) AAS
HAKMEMに倣って倍角公式でつw
mytanh(x):=if abs(x) < 1e-4 then x-x^3/3 else block([y:mytanh(x/2)],2*y/(1+y^2));

>>902
expm1(x * log(base)) == pow(base, x) - 1
なので、「任意の底でのべき乗マイナス1」のゼロ近傍を精度良く求めたい場合にも使えます。
IEEE754の最新版ではpow(2, x) - 1とpow(10, x) - 1の実装が推奨されてるそうなので、
底が2と10の場合はライブラリ任せになる未来が来る…といいなぁ。
904: 2020/02/01(土)14:42 ID:YFAnTUnh(2/4) AAS
>>903
その
任意の底でのべき乗マイナス1
の0近辺をいつ使うのかなあっていう
905: 2020/02/01(土)15:02 ID:YFAnTUnh(3/4) AAS
>>624も見てね
906: 2020/02/01(土)15:05 ID:YFAnTUnh(4/4) AAS
スカラーでも4倍精度でも同じ方法が使えます
テーブルサイズは色々と変えられるし
多段にも出来ます
907
(2): 2020/02/07(金)09:14 ID:qw7QPilU(1) AAS
web系でデータ型に固定小数点数がある言語って何がありますか?
908: 2020/02/07(金)09:27 ID:9c9xCiV6(1) AAS
>>907
スレチ
909: 2020/02/07(金)11:37 ID:bSyJxcnp(1) AAS
なんでこのスレで質問しようと思ったんだw
910
(3): 2020/02/08(土)03:34 ID:B8La3jsg(1/2) AAS
>>907
PythonのDecimalは?
外部リンク[html]:docs.python.org
911: 2020/02/08(土)07:34 ID:gtTyaGQ0(1/2) AAS
固定小数点なら何でも良いのか?
912: 910 2020/02/08(土)09:59 ID:B8La3jsg(2/2) AAS
あとJavaScriptのこれとか
外部リンク[js]:github.com
913: 2020/02/08(土)10:33 ID:hHzEGlOh(1) AAS
固定小数点ない言語探す方が難しいだろ
914: 2020/02/08(土)11:21 ID:OUJaeRcl(1) AAS
先生、intは固定小数点数に入りますか?
915: 2020/02/08(土)20:48 ID:SNKEmgHS(1) AAS
浮動小数点数なら知ってるんだけど固定小数点数ってなに
916
(1): 2020/02/08(土)21:08 ID:gtTyaGQ0(2/2) AAS
小数点が固定なヤツ
整数型に適当に仮想の小数点を打って小数と見なすだけでも固定小数点だし
それ用の命令があるCPUもある

2進数や10進数の固定小数点が比較的良く使われる
917
(1): 2020/02/08(土)22:11 ID:TegpS8IB(1) AAS
>>916
> 整数型に適当に仮想の小数点を打って小数と見なすだけでも固定小数点だし
> それ用の命令があるCPUもある
そんなCPUあるんだ
なんて言う奴?
918
(2): 910 2020/02/09(日)00:14 ID:W3YVjpeH(1/2) AAS
>>917
例えば
外部リンク:ja.wikipedia.org

昔は、「IBM互換機」というのは、これや後継機種の互換機の意味だった。
919
(2): 2020/02/09(日)06:42 ID:6++kPC7v(1/3) AAS
>>918
???
パック10進数のことを言ってるのか?
表現形式違うだけであれも整数だよ
920
(1): 2020/02/09(日)13:58 ID:0/1sPgy2(1) AAS
スレタイ
921
(1): 2020/02/09(日)14:31 ID:kf5XKxtD(1) AAS
>>920
お題
固定小数点数を説明し例を挙げよ
922
(2): 2020/02/09(日)15:49 ID:mw6BsSoR(1) AAS
お題:
複数個の数字列がありどれとも共通する数字がないことを判定しなさい。
1-
あと 80 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.146s*