文章生成AIでオナニー★102 (826レス)
前次1-
抽出解除 レス栞

370
(1): (ワッチョイ efb0-wyo+) 09/01(月)18:54 ID:j1Ruvq5T0(4/7) AAS
あ、入力トークンって自分でテキストボックスに打ち込んだトークンってことじゃないのね

やり取り1回目に100トークン入力したら、出力で100トークン返ってきました
次の2回目でまた100トークン入力したとき、また出力で100トークン返ってきました
消費したトークン数は400トークン(1回目と2回目の入出力トークン数の合計)………は間違いで

実際は2回目のやりとりの時に、1回目の入出力トークン(200トークン)も含めてシステムに送られる
だから、実際に画面に表示されているトークンは400トークンだけど、消費したトークンは600トークン(1回目の入出力トークン+これまでの入出力トークン+2回目の入出力トークン)になるってこと?
372
(1): (ワッチョイ 8324-V9Fa) 09/01(月)18:58 ID:mL0BGfKe0(3/6) AAS
>>370
合ってる
1回にシステムに送るトークン(=入力トークン)が多いと性能が悪くなることが多いって話
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 1.120s*