OpenAI「gpt-oss-120b」の衝撃 (64ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
19: 09/21(日)21:06:14.30 ID:??? AAS
爺には困ったものだ
25: 09/22(月)20:29:14.30 ID:??? AAS
LLM-20bクラスがCPU(16GB)でもそれなりに使えるようになった理由は
従来、単精度浮動小数点(4byte)の計算が量子化技術で4bit程度で済み
古いPCでもAVX2内蔵のCPUなら4-8倍の計算性能UPかつデータ量も縮小できたから。
お金使ったGPUの数で力押しより、ソフトウエア技術の恩恵が非常に大きい。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.445s*