[過去ログ]
なんJLLM部 避難所 ★8 (1002レス)
なんJLLM部 避難所 ★8 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
9: 名無しさん@ピンキー (ワッチョイ f3c0-9L8h) [] 2025/05/10(土) 22:22:38.96 ID:0Ak3eO5y0 ●高性能なPCがないけどLLMを試したい人や大きなモデルを速く動かしたい人はpaperspaceなどのクラウド環境を使うのも手やで 若干規制はあるもののGoogle AI studioから無料でAPI keyを入手して高性能なAIを使うこともできるのでそれを使うのええで API keyの入手はhttps://aistudio.google.com/apikeyここからできるで http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/9
49: 名無しさん@ピンキー (ワッチョイ 737a-KB/z) [sage] 2025/05/11(日) 14:04:02.96 ID:fsVnkFbE0 >>47 モデル作者aratako氏のデータセットを参照すると、system promptに設定全部入力してあって、出力は全部キャラクターの発言だけだね このデータセットが使われたかどうかは分からんけど、これに準拠してるなら小説は難しいだろうね でも、このモデル元にして、自分で小説のデータセット用意して微調整すれば書けるようになると思うよ http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/49
113: 名無しさん@ピンキー (ワッチョイ 737a-KB/z) [sage] 2025/05/16(金) 02:05:19.96 ID:YAfs24yh0 AIのべりすとって今そんなに強いんだ 個人的にはgemini 2.5がオーパーツかな flashレベルが32Bくらいに収まってくれたらなぁ… http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/113
129: 名無しさん@ピンキー (JP 0H07-heYV) [] 2025/05/17(土) 14:20:31.96 ID:eir/EweWH CUDAがなぁ(´・ω・`) http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/129
195: 名無しさん@ピンキー (ワッチョイ a3c7-Ar1F) [sage] 2025/05/26(月) 12:50:07.96 ID:zJFAZMFs0 自然言語に強いモデルってある? http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/195
204: 名無しさん@ピンキー (ワッチョイ cfd9-Qnse) [sage] 2025/05/27(火) 01:57:18.96 ID:Z0ZSM0u/0 DGX Sparkは80万らしいな http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/204
239: 名無しさん@ピンキー (ワッチョイ 3fcc-pzE/) [sage] 2025/05/30(金) 22:18:54.96 ID:SgTWU+a40 >>238 そもそもmac以外で動作するの?という話 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/239
278: 名無しさん@ピンキー (ワッチョイ b6bc-lbRc) [sage] 2025/06/04(水) 19:56:58.96 ID:FvknF98Q0 >>269 やっぱりそうかぁ 以前、内容や名詞をスクリプトで自動的に組み合わせて生成した金太郎飴みたいなデータセット1万件ぐらいを使ってLoRA作成したんだけど 推論結果が同じく金太郎飴みたいになってて全く使い物にならなかったんよ 質問文は自力で頑張って用意してそれをLLMに蒸留させてデータ作成するのが一番現実的そうやね ただOpenAIは蒸留に対する検知厳しくなったみたいだしローカルLLMで蒸留させるしかないのかな http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/278
291: 名無しさん@ピンキー (ワッチョイ 57d9-3NuF) [sage] 2025/06/08(日) 16:32:28.96 ID:UOHeZNXa0 >>286 別になんか悪いことしてるとかではないんだけど、シンプルにこのスレ民的には全く期待しなくて良いと思うというお話 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/291
411: 名無しさん@ピンキー (ワッチョイ 7f53-DPyy) [sage] 2025/06/18(水) 22:04:38.96 ID:zD6NqT9U0 何ターンも同じようなシーンが続くと繰り返しに陥りがち ここらへんはgemma3が頭抜けてる 規制?知らない子ですね http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/411
423: 名無しさん@ピンキー (ワッチョイ bb33-I7Wt) [sage] 2025/06/20(金) 04:13:34.96 ID:J0XU/8yL0 KoboldCppなら、バッチサイズみたいな名前のパラメーターを64ぐらいまで減らせば、コンテキスト長増やしてもVRAMあまり使わない。はず。 減らすとトークンを読む速度が遅くなるけど、小説やロールプレイならあまり気にならないかも。 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/423
575: 名無しさん@ピンキー (ワッチョイ cfbc-rJp5) [sage] 2025/07/07(月) 22:25:43.96 ID:/WE7oxmV0 >>574 基本的には機密性の高い文書とかデータ使ってローカルでやらせるときに使う ローカルでやる必要ないなら ChatGPT とか Gemini にやらせるから コードプレビューとかコード生成、社内用に使ってるマニュアルのPDF読み込ませてRAGで誰でも簡単に利用できるようにしたりそれ使って文書作成したり コードインタプリタも対応してるからちょっとテストでコード実行したいときとか 時間節約のために調べたいことを要約させたいときに Web 検索を使うこともある でそれをそのまま文書化して顧客に渡す 画像生成はおまけ程度かな でも使うことはある http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/575
724: 名無しさん@ピンキー (ワッチョイ ff2b-Z3bw) [] 2025/07/23(水) 22:29:06.96 ID:2lSeUF4D0 geminiスケベすぎやろエロトークしまくってたら濃いの出たし全部搾り取られたわ http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/724
855: 名無しさん@ピンキー (ワッチョイ cb9b-C7XW) [sage] 2025/08/07(木) 15:08:42.96 ID:bC9AW2A70 >>851 GLM4.5でエロ小説書いてみたことあるけど、ちょっと前のsonnetくらいのレベルには到達してる http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/855
976: 名無しさん@ピンキー (ワッチョイ 1f32-KN1F) [sage] 2025/08/21(木) 10:13:13.96 ID:QXmLQcrQ0 俺のスペックに丁度いいサイズのMoE出せよってことなら分かる 勝手ながら30bは小さいし235bはちょっと苦しい http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/976
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.029s