なんJLLM部避難所 ★9

なんJLLM部避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除ﾚｽ栞

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

3: 名無しさん＠ピンキー (ﾜｯﾁｮｲ fec0-xVEZ) [] 08/23(土)13:53:01.31 ID:5lw7ZcNF0(3/10)
oobabooga/text-generation-webui
通称大葉
これもKoboldAIに並んで有用な実行環境やで
https://github.com/oobabooga/text-generation-webui

132: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 8fde-qKMj) [] 09/04(木)19:06:20.31 ID:O125gjBs0(1)
多分差が出ない、てかむしろ負けるから出せないんだと思う

153: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7ea9-sTI1) [sage] 09/06(土)00:57:32.31 ID:B6NjqRnx0(2/2)
DDR5なら64GB*4が最安10万で買える
なんかLLMでハード一つこしらえようと色々調べてると10万が糞安く感じる

239(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ d3ef-oX69) [] 09/11(木)21:46:22.31 ID:6nMn9OHl0(1)
>>235
RTX3090だと出力遅いかな？

371: 名無しさん＠ピンキー (ﾜｯﾁｮｲ ef87-Ix3D) [sage] 09/18(木)01:57:27.31 ID:/RNcwulO0(1)
Hermes-4-70b 試してみた
英語でしか試してないけど70bの割にかなり賢いしnsfwいける

481: 名無しさん＠ピンキー (ｽｯﾌﾟﾌﾟ Sd92-0UjF) [sage] 09/26(金)17:30:12.31 ID:+QY55fpBd(2/3)
>>479
rinnaはdenseモデルしかFT実績がないな
MoEのFTは海外ではチラホラ見かけるが技術的に壁があるのかも知らん