[過去ログ]
【統計分析】機械学習・データマイニング29 (1002レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
124
:
(ワッチョイ 6501-iUmJ
[60.157.124.174])
2020/09/06(日)12:15
ID:v5JhsKrg0(1)
AA×
>>104
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
124: (ワッチョイ 6501-iUmJ [60.157.124.174]) [sage] 2020/09/06(日) 12:15:42.57 ID:v5JhsKrg0 >>104 AI ではFP16 じゃ使い物にならないから、bfloat16 というフォーマットが出て来た。 bfloat16 形式は、符号ビットが 1 つ、指数ビットが 8 つ、仮数ビットが 7 つ、暗黙の仮数ビットが 1 つの [1:8:7] の形式です。これに対し、標準の 16 ビット浮動小数(fp16)形式は [1:5:10] です。 http://mevius.5ch.net/test/read.cgi/tech/1597882603/124
では じゃ使い物にならないから というフォーマットが出て来た 形式は符号ビットが つ指数ビットが つ仮数ビットが つ暗黙の仮数ビットが つの の形式ですこれに対し標準の ビット浮動小数形式は です
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 878 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.015s