文章生成AIでオナニー★107 (757ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
441: 名無しさん＠ピンキー (ﾜｯﾁｮｲ d22c-XBLx) [] 09/25(木)18:09 ID:Pw757q+/0(1/3)
>>423
ないす
442(5): 名無しさん＠ピンキー (ﾜｯﾁｮｲ d22c-XBLx) [] 09/25(木)18:10 ID:Pw757q+/0(2/3)
突然GPT-5がとんでもなく頭が悪くなっているんですが、これは一体何が起こっているのか。
性能が悪いとか以前の問題で、日本語として破綻しているレベルの間違いが多すぎて、いつもの蒸留小型化に伴うサイレントナーフなのか、Anthropicの時のようにバグなのかちょっとわからない。
451: 名無しさん＠ピンキー (ﾜｯﾁｮｲ d22c-XBLx) [] 09/25(木)18:28 ID:Pw757q+/0(3/3)
>>442
一応、OpenAIを擁護すると、現在のLLMのモデル本体(MoE)と、それを含む大規模な生成システムは、かなり複雑怪奇で、研究者もわからないこと、想定外のことがかなり多い。
直近でかなり話題になった、MoEモデルの非決定性問題(温度を0にしても出力がブレる)は、GPT-4のMoEリークがあった2023年夏から認識はされていたが、妥当性のある説明が得られたのはつい最近
論文: Defeating Nondeterminism in LLM Inference
そして、Claude Codeの出力が一時的にかなり悪化していた問題についても、後になってAnthropicが割と複雑なインフラでのエンジニアリングのやらかしを報告している。
記事: A postmortem of three recent issues
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.031s