[過去ﾛｸﾞ] 雑談はここに書け！【67】 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
186(1): １３２人目の素数さん [sage] 2024/03/01(金)05:39 ID:IqBGy6oJ(3/4)
>>184
https://gigazine.net/news/20240229-microsoft-1bit-llm/
＞なお、それぞれのパラメーターが「-1」「0」「1」という3つの値を取るためlog[2](3)の値より「1.58ビットのモデル」と述べられています。
https://ja.wikipedia.org/wiki/%E4%B8%80%E5%85%83%E4%BD%93#%E6%AD%B4%E5%8F%B2
＞これは古典的射影幾何学における「直線上には少なくとも三つの点が存在する」という条件の類似対応であるが、射影幾何の公理のうち先ほどの条件を「直線上の点は二つに限る」というもので置き換えた退化版の幾何学が存在する。
187: １３２人目の素数さん [sage] 2024/03/01(金)05:41 ID:IqBGy6oJ(4/4)
>>186
＞従来のモデルであれば入力に対して「0.2961」などのウェイトをかけ算してから足し引きする必要がありましたが、「-1」「0」「1」の3値のみであればかけ算が不要になり、全ての計算を足し算で行えるようになります。
＞F1 は環の構造から加法を忘れて乗法について注目したもの（吸収元 0 付きのモノイド）として得られるべきものであると示唆している[4]。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.037s