[過去ﾛｸﾞ] 文章生成AIでオナニー★102 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
369(2): (ﾜｯﾁｮｲ ffdf-ZghJ) 09/01(月)18:49 ID:mH7zqi+P0(6/9) AAS
あんまり理解してないみたいだけど簡単に言うと
geminiというかLLMが品質維持したまま扱えるトークン量はコンテキスト最大量に比べてかなり小さい
だから性能を落としたくないなら入力トークンを減らす＝ある程度のトークン量になったらセッションを変えるか、STのコンテキストスライダー弄って入力するトークンを減らすしか方法はない
ってこと
トークン量増えたら性能落ちちゃうねーとか喚かれてもどうしようもないよLLMの仕様だし
LLM使う人間なら周知の事実だから
10万トークン超えるだろと言われてもそれで品質に文句言うなら使い方が悪いとしか言えんのよ
371(2): (ﾜｯﾁｮｲ 4336-YdP+) 09/01(月)18:57 ID:IXSo4hwO0(6/6) AAS
>>369
別に文句とかじゃなく長編になったら性能落ちちゃうから仕方ないね小手先の工夫しても焼け石に水だしこれが性能の限界だから諦めて新しいセッションにしようねって言いたいだけなんだけどな
そこで入力絞れば解決できる使い方が悪いって話にするならいや性能上無理だろって
383(1): (ﾜｯﾁｮｲ c365-t6qO) 09/01(月)19:14 ID:vP7ty4f40(8/9) AAS
>>369
良かった認識あってた
Google.コンテキストウィンドウが100万トークン！
※品質維持したいなら一度に10万トークン付近
お前らどっちの話してる？
- 使用した合計のトークン量
- 一度にやり取りするトークン量
省1
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.031s