純粋・応用数学・数学隣接分野(含むガロア理論)18 (402レス)
上
下
前
次
1-
新
300
: 04/26(金)23:15
ID:A7Cl6sKK(1/2)
AA×
外部リンク:wired.jp
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
300: [] 2024/04/26(金) 23:15:17.62 ID:A7Cl6sKK これ面白い https://wired.jp/article/how-quickly-do-large-language-models-learn-unexpected-skills/ wired STEPHEN ORNES SCIENCE2024.04.26 AIの「創発性」は幻影に過ぎない ── 大規模言語モデルの新たな測定で判明 2年前、BIGベンチこと「Beyond the Imitation Game benchmark」というプロジェクトで、450名の研究者がChatGPTなどのチャットボットに用いられている大規模言語モデル(LLM)の性能を検証するためにデザインされた204のタスクをリストアップした。そのほとんどのタスクで、モデルが拡大するにともない、パフォーマンスも予測可能なかたちで徐々に向上していた。つまり、モデルが大きくなるにしたがい、性能も同様に少しずつ上がるということだ。しかし、一部のタスクでは、こうした性能のスムーズな向上が見られなかった。ずっとほぼゼロだったパフォーマンスが、突然飛躍的に向上するのだ。ほかの研究でも、同じような飛躍が確認された。 同研究論文の執筆陣は、この飛躍を「ブレイクスルー」挙動と呼び、ほかの研究者は水が氷に変わるようなものとして、物理学で言うところの「相転移」になぞらえた。研究者は2022年8月に発表された論文において、こうした行動は驚きであるばかりでなく予測も不可能であり、人工知能(AI)の安全性、可能性、リスクなどに関する議論で考慮されるべきだと指摘した。そしてこの能力を「創発性」と名付けた。特定のシステムの複雑さが高いレベルに達したときにのみ生じる集団的な挙動を意味する用語だ。 しかし、実際にはそれほど単純な話ではないのかもしれない。スタンフォード大学の3名の研究者が新たに論文を発表し、そうした能力が突然生じるように見えるのは、LLMのパフォーマンスを測定する方法の問題だと指摘したのだ。そのような能力は、予測が不可能でもなければ、突然でもないと、彼らは主張した。「この変化は人々が考えるよりもはるかに予測しやすいものだ」と、スタンフォード大学のコンピューターサイエンティストで、同論文の筆頭著者であるサンミ・コイエジョは語る。「創発的な能力が存在するという強力な主張は、モデルが何をするかという点と同じぐらい、それを測定する方法の選択とも関係しています」 創発的ではなく、漸次的 http://rio2016.5ch.net/test/read.cgi/math/1705834737/300
これ面白い の創発性は幻影に過ぎない 大規模言語モデルの新たな測定で判明 年前ベンチこと というプロジェクトで名の研究者がなどのチャットボットに用いられている大規模言語モデルの性能を検証するためにデザインされたのタスクをリストアップしたそのほとんどのタスクでモデルが拡大するにともないパフォーマンスも予測可能なかたちで徐に向上していたつまりモデルが大きくなるにしたがい性能も同様に少しずつ上がるということだしかし一部のタスクではこうした性能のスムーズな向上が見られなかったずっとほぼゼロだったパフォーマンスが突然飛躍的に向上するのだほかの研究でも同じような飛躍が確認された 同研究論文の執筆陣はこの飛躍をブレイクスルー挙動と呼びほかの研究者は水が氷に変わるようなものとして物理学で言うところの相転移になぞらえた研究者は年月に発表された論文においてこうした行動は驚きであるばかりでなく予測も不可能であり人工知能の安全性可能性リスクなどに関する議論で考慮されるべきだと指摘したそしてこの能力を創発性と名付けた特定のシステムの複雑さが高いレベルに達したときにのみ生じる集団的な挙動を意味する用語だ しかし実際にはそれほど単純な話ではないのかもしれないスタンフォード大学の名の研究者が新たに論文を発表しそうした能力が突然生じるように見えるのはのパフォーマンスを測定する方法の問題だと指摘したのだそのような能力は予測が不可能でもなければ突然でもないと彼らは主張したこの変化は人が考えるよりもはるかに予測しやすいものだとスタンフォード大学のコンピューターサイエンティストで同論文の筆頭著者であるサンミコイエジョは語る創発的な能力が存在するという強力な主張はモデルが何をするかという点と同じぐらいそれを測定する方法の選択とも関係しています 創発的ではなく漸次的
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 102 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
ぬこの手
ぬこTOP
0.056s