【Renesas】ルネサス終了 part11@2ch.net [無断転載禁止]©2ch.net (575レス)
上
下
前
次
1-
新
443
: 2019/11/13(水)17:36
ID:eBOW7K3j(1)
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
443: [sage] 2019/11/13(水) 17:36:52.60 ID:eBOW7K3j 単精度32bit FPUでディジタルフィルタの桁落ちてww ディジタルフィルタの最終精度なんて固定小数点16bit使い切るのだって大変だぜ。 世の中96dBギャランティてきてるようなアナログ系がどんだけあると思ってるんだ。 32bit信号処理で問題でるとすれば高位極付近の処理ぐらいのもんだろ。 いったいどこの顧客が問題視したのか言ってみろ わかったふうな寝言ほざくなww http://rio2016.5ch.net/test/read.cgi/denki/1502041944/443
単精度 でディジタルフィルタの桁落ちて ディジタルフィルタの最終精度なんて固定小数点使い切るのだって大変だぜ 世の中ギャランティてきてるようなアナログ系がどんだけあると思ってるんだ 信号処理で問題でるとすれば高位極付近の処理ぐらいのもんだろ いったいどこの顧客が問題視したのか言ってみろ わかったふうな寝言ほざくな
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 132 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
ぬこの手
ぬこTOP
0.018s