技術的特異点/シンギュラリティ259 (980レス)
上
下
前
次
1-
新
883
: 2024/07/10(水)20:35
ID:GH4Ly9n7(37/38)
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
883: [] 2024/07/10(水) 20:35:13.17 ID:GH4Ly9n7 MS CTOのKevin Scott氏はスケーリングは限界に達していないと明言し、 非常に高い可能性で今脆弱だと感じる点も改善されると主張。 今までOpenAIやAnthropicの研究者やCEOが積極的な発言をしてきたが、 MSは投資する側であり、 AnthropicやOpenAIと違ってポジショントークをする必要性が低く、 さらにメガテックのCTOなため発言にはリスクも伴うがこう発言しているというのは自信の表れだろうと感じる。 46:00~「ええ、そう、いずれ皆さんがこの質問をするだろうと知っていましたが、 他の人がどう思っているかに関係なく、 私たちはスケールアップに関して限界効用逓減に達していません。 私は、人々にこれを理解してもらうために努力しています。 ここには指数関数的な成長があり、 残念ながら、スーパーコンピュータを構築し、 それらの上でモデルを訓練するのには時間がかかるため、 数年に一度しかそれを実感することができません。 次のサンプルが来ていますが、それがいつになるか、 どれほど良くなるかを正確に予測することはできません。 しかし、今は脆弱だと感じる部分が改善される可能性が非常に高いです。 例えば、コストが高すぎるとか、使うには脆弱すぎるとか、 そういった問題がすべて改善され、コストが下がり、脆弱性が減少し、 より複雑なことが可能になります。 これが、これまでのモデルの各世代のスケールアップの物語です。」 http://rio2016.5ch.net/test/read.cgi/future/1719308617/883
の 氏はスケーリングは限界に達していないと明言し 非常に高い可能性で今脆弱だと感じる点も改善されると主張 今までやの研究者やが積極的な発言をしてきたが は投資する側であり やと違ってポジショントークをする必要性が低く さらにメガテックのなため発言にはリスクも伴うがこう発言しているというのは自信の表れだろうと感じる ええそういずれ皆さんがこの質問をするだろうと知っていましたが 他の人がどう思っているかに関係なく 私たちはスケールアップに関して限界効用逓減に達していません 私は人にこれを理解してもらうために努力しています ここには指数関数的な成長があり 残念ながらスーパーコンピュータを構築し それらの上でモデルを訓練するのには時間がかかるため 数年に一度しかそれを実感することができません 次のサンプルが来ていますがそれがいつになるか どれほど良くなるかを正確に予測することはできません しかし今は脆弱だと感じる部分が改善される可能性が非常に高いです 例えばコストが高すぎるとか使うには脆弱すぎるとか そういった問題がすべて改善されコストが下がり脆弱性が減少し より複雑なことが可能になります これがこれまでのモデルの各世代のスケールアップの物語です
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 97 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
ぬこの手
ぬこTOP
0.038s