[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
9: (ﾜｯﾁｮｲ f3c0-9L8h) 05/10(土)22:22:38.96 ID:0Ak3eO5y0(9/10) AAS
●高性能なPCがないけどLLMを試したい人や大きなモデルを速く動かしたい人はpaperspaceなどのクラウド環境を使うのも手やで
若干規制はあるもののGoogle AI studioから無料でAPI keyを入手して高性能なAIを使うこともできるのでそれを使うのええで
API keyの入手は外部ﾘﾝｸ:aistudio.google.comここからできるで
49: (ﾜｯﾁｮｲ 737a-KB/z) 05/11(日)14:04:02.96 ID:fsVnkFbE0(1/2) AAS
>>47
モデル作者aratako氏のデータセットを参照すると、system promptに設定全部入力してあって、出力は全部キャラクターの発言だけだね
このデータセットが使われたかどうかは分からんけど、これに準拠してるなら小説は難しいだろうね
でも、このモデル元にして、自分で小説のデータセット用意して微調整すれば書けるようになると思うよ
113: (ﾜｯﾁｮｲ 737a-KB/z) 05/16(金)02:05:19.96 ID:YAfs24yh0(1) AAS
AIのべりすとって今そんなに強いんだ
個人的にはgemini 2.5がオーパーツかな
flashレベルが32Bくらいに収まってくれたらなぁ…
129: (JP 0H07-heYV) 05/17(土)14:20:31.96 ID:eir/EweWH(1) AAS
CUDAがなぁ(´･ω･｀)
195: (ﾜｯﾁｮｲ a3c7-Ar1F) 05/26(月)12:50:07.96 ID:zJFAZMFs0(1) AAS
自然言語に強いモデルってある？
204: (ﾜｯﾁｮｲ cfd9-Qnse) 05/27(火)01:57:18.96 ID:Z0ZSM0u/0(1) AAS
DGX Sparkは80万らしいな
239(1): (ﾜｯﾁｮｲ 3fcc-pzE/) 05/30(金)22:18:54.96 ID:SgTWU+a40(1/2) AAS
>>238
そもそもmac以外で動作するの？という話
278: (ﾜｯﾁｮｲ b6bc-lbRc) 06/04(水)19:56:58.96 ID:FvknF98Q0(1) AAS
>>269
やっぱりそうかぁ
以前、内容や名詞をスクリプトで自動的に組み合わせて生成した金太郎飴みたいなデータセット1万件ぐらいを使ってLoRA作成したんだけど
推論結果が同じく金太郎飴みたいになってて全く使い物にならなかったんよ
質問文は自力で頑張って用意してそれをLLMに蒸留させてデータ作成するのが一番現実的そうやね
ただOpenAIは蒸留に対する検知厳しくなったみたいだしローカルLLMで蒸留させるしかないのかな
291: (ﾜｯﾁｮｲ 57d9-3NuF) 06/08(日)16:32:28.96 ID:UOHeZNXa0(2/2) AAS
>>286
別になんか悪いことしてるとかではないんだけど、シンプルにこのスレ民的には全く期待しなくて良いと思うというお話
411: (ﾜｯﾁｮｲ 7f53-DPyy) 06/18(水)22:04:38.96 ID:zD6NqT9U0(1) AAS
何ターンも同じようなシーンが続くと繰り返しに陥りがち
ここらへんはgemma3が頭抜けてる
規制?知らない子ですね
423: (ﾜｯﾁｮｲ bb33-I7Wt) 06/20(金)04:13:34.96 ID:J0XU/8yL0(1) AAS
KoboldCppなら、バッチサイズみたいな名前のパラメーターを64ぐらいまで減らせば、コンテキスト長増やしてもVRAMあまり使わない。はず。
減らすとトークンを読む速度が遅くなるけど、小説やロールプレイならあまり気にならないかも。
575: (ﾜｯﾁｮｲ cfbc-rJp5) 07/07(月)22:25:43.96 ID:/WE7oxmV0(2/3) AAS
>>574
基本的には機密性の高い文書とかデータ使ってローカルでやらせるときに使う ローカルでやる必要ないなら ChatGPT とか Gemini にやらせるから
コードプレビューとかコード生成、社内用に使ってるマニュアルのPDF読み込ませてRAGで誰でも簡単に利用できるようにしたりそれ使って文書作成したり
コードインタプリタも対応してるからちょっとテストでコード実行したいときとか
時間節約のために調べたいことを要約させたいときに Web 検索を使うこともある でそれをそのまま文書化して顧客に渡す
画像生成はおまけ程度かな でも使うことはある
724: (ﾜｯﾁｮｲ ff2b-Z3bw) 07/23(水)22:29:06.96 ID:2lSeUF4D0(1) AAS
geminiスケベすぎやろエロトークしまくってたら濃いの出たし全部搾り取られたわ
855: (ﾜｯﾁｮｲ cb9b-C7XW) 08/07(木)15:08:42.96 ID:bC9AW2A70(2/2) AAS
>>851
GLM4.5でエロ小説書いてみたことあるけど、ちょっと前のsonnetくらいのレベルには到達してる
976(1): (ﾜｯﾁｮｲ 1f32-KN1F) 08/21(木)10:13:13.96 ID:QXmLQcrQ0(1) AAS
俺のスペックに丁度いいサイズのMoE出せよってことなら分かる
勝手ながら30bは小さいし235bはちょっと苦しい
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.043s