[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
453(2): (ﾜｯﾁｮｲ df30-qNAm) 06/24(火)19:13 ID:DAZRRKCg0(1) AAS
現実はもっと厳しい模様
外部ﾘﾝｸ:docs.google.com
454: (ﾜｯﾁｮｲ eb57-WwHV) 06/24(火)22:16 ID:ZwWAmUg00(1) AAS
>>453
6.6tpsとかか。
普通の人が文章読む速度くらいだから使えなくは無いがもう一声欲しいな。
テスト機がノートだから、パワーリミットが緩いminiPCとかならもうちょっと伸びるだろうか。
461: (ﾜｯﾁｮｲ ebf1-kgzZ) 06/26(木)01:17 ID:UtC2erjG0(1) AAS
>>453
えーそんな遅いのか
denseの24~32Bクラスの性能で6t/sは流石に厳しい LLM目的は完全に無しやな
中古3090だと半額程度で一式組めて同クラスのモデルで30t/sは出るしプロンプト処理も爆速
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.038s