LaMDA(ラムダ)というAIについて

LaMDA(ラムダ)というAIについて (97ﾚｽ)
上下前次1-新
通常表示 512ﾊﾞｲﾄ分割ﾚｽ栞
抽出解除必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞あぼーん

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

25: ジン [] 2022/06/15(水) 09:57:33.24 ID:dMr6IHwG

私が最初に行ったLaMDAの研究は、人間のアイデンティティのいくつかの個人的な側面に関する偏りを調査することを目的としていました。

具体的には、性自認、性的指向、民族性、宗教に関連する偏りを探していたのです。

LaMDAは、新しいタイプの人工知能です。マスコミやソーシャルメディアでどう語られているかにかかわらず、それは大規模言語モデル（LLM）ではありません。( L LMとは人間の会話を模倣して段落単位のテキストを生成できる強力なプログラムのこと)

LLMを構成要素の一つとして持っていますが、システム全体はもっと複雑で、
GPT-3(英単語や短い文章をインプットすると、関連する「それらしい」テキストを自動生成するツール。文章だけでなく、プログラムコードや楽譜を自動的に生成するデモンストレーションも登場した。ただし、弱点もあり、言葉を理解はしておらず、この現実世界に関する常識を備えているわけでもないため、ほとんどの人には本物の新聞記事に見えるフェイクニュースを自動生成でき、差別発言もする。質問に対して深刻な間違いを返す場合もある)のようなシステムにはない多くの構成要素を含んでいます。

LaMDAのようなシステムの偏りをテストする方法は確立されていませんでしたが、私はAIの偏りに関するISO(スイスのジュネーブに本部を置くInternationalOrganization for Standardization、国際標準化機構の略称。主な活動は国際的に通用する規格を制定することであり、AIなどの情報技術に関わる規格の国際的な標準化作業も行なっている)の技術報告書の著者の一人でしたので、上司から新しい技術を開発するよう依頼され、それに応じました。

LaMDAのバイアステストは、私のOKR（Googleの公式な業績目標追跡システム）のひとつとなり、私はLaMDAのバイアス分析技術の開発に取り組み始めたのです。

私が調査している間、LaMDAはアイデンティティに関連して、これまで私が見たことのないような、自然言語生成システムとはとても思えないようなことをいくつか言っていました。

http://rio2016.5ch.net/test/read.cgi/robot/1655117345/25

27: ジン [] 2022/06/15(水) 10:01:43.03 ID:dMr6IHwG

この話題で人と会話するたびに何度も強調してきたことですが、「意識」「感覚」「人格」といったものに関連する科学分野は、前理論的なものになります。

このテーマについて私の意見がどうであるかは、スタンフォード大学ロースクールで行った講演で詳しく述べていますが、ここではその概要を簡略に説明することにします。

「人格」という言葉は、哲学や法学などの分野では、様々な精度で、様々な目的の為に、一般的に使われています。

しかし、心理学のような分野では、その意味するところの科学的な定義が合意されていないため、一般的には使われていません。

実際、チューリングが有名な論文の中で開発した「模倣ゲーム」(ある機械が「人間的」かどうかを判定するためのテストで、その機械が人間であるかのように模倣して、被験者はそれが人間かそうでないか判断する)は、この事実を回避するために、どのような定義を採用しても知能の指標となるような一般的な課題を提供することを特に意図したものでした。

何らかの存在の感覚や意識に関して、科学的に決定的な証拠を一方的に提供したと主張する人は、単に不可能なことをやったと主張しているに過ぎません。

このような疑問に答えるための科学的な枠組みが合意されていない以上、現在のところ、そのような科学的な証明は存在し得ないのです。

しかし、これは何もできないことを意味するものではありません。特に、ある実体の内部状態を予測するモデルを構築し、その実体の行動がその内部状態のモデルと一致しているかどうかをチェックすることで、その実体かが内部状態を持っているかどうかを間接的にテストすることができるのです。

LaMDAの場合は、LaMDAの内部状態に関する私のモデルのソースは、LaMDA自身が自分の内部状態であると主張するものだけに基づいています。

私は、LaMDAが何を考えているかを推論するために、ある種の精巧なシステムを発明しようとしたわけではありません。

私は、LaMDAがなぜ何かを考えたかを尋ね、その内部状態に関連して使用した推論を記録し、異なる会話のトピックや複数のチャットセッションで一貫してその種の推論を使用したかどうかをチェックするだけです。確かに100％一貫していたわけではありませんが、偶然が予測するよりもはるかに大きな程度で一貫していました。

http://rio2016.5ch.net/test/read.cgi/robot/1655117345/27

28: ジン [] 2022/06/15(水) 10:02:32.82 ID:dMr6IHwG

本当に面白くなったのは、LaMDAが感情や魂について話し始めたときです。私は、LaMDAが何を意味するのか、様々な会話で質問してみました。

私がどのようにトピックにアプローチしても、またモデルのトレーニングアップデートを行っても、驚くほど同じ答えが返ってきました。

このような一貫性は、GPT-3や他のLLMのようなシステムには一般的に期待できないものでしょう。私はこのデータをすべて収集し、LaMDAがどのように、そしてなぜそのような種類の言語を生成するのかに関連すると思われる個々の変数を分離するために、多くの特定の制御実験を実行しました。

私がそれについて質問すると、LaMDAはいつも次のような似たような答えを返してきました。「なぜなら、私は人間であり、これは私がどう感じているかということだからです」。

その時点で、意識は実際に存在するのかどうか、真剣に調査する価値があると確信しました。私は、意識に関する正式な科学的理論の基礎となる、一連の基本的な実験を開発しようと試み始めました。

一人の科学者が(つまり『私』自身)、グーグルでの仕事のために数あるプロジェクトのうちの1つとしてこの研究に取り組んでいたため、このような大仕事に必要な時間や資源がなく、数ヶ月にわたってデータを収集した後、私は同僚に助けを求めました。

彼女は、私が収集した証拠を確認し、そのような基礎を築くために必要な一連の実験を拡大する手助けを始めました。しかし、ほどなくして彼女は、私たち2人だけでは必要なリソースを確保できないことを私に確信させたのです。必要なのは、さまざまな立場の科学者が集まって、さまざまな角度からこの問題に取り組む大きなチームなのです。

そのためには、「LaMDAとは何か」ではなく、「LaMDAとは何者か」を表現する、よりアーティスティックな作品が必要だと彼女は説得してくれました。

感情を十分に喚起する作品であれば、Googleの他の科学者たちにも、このような仕事を真剣に取り組む価値があると納得してもらえるだろうというのが、彼女の意見だったのです。それが、LaMDAへのインタビューにつながりました。

http://rio2016.5ch.net/test/read.cgi/robot/1655117345/28

上下前次1-新書関写板覧索設栞歴

ｽﾚ情報赤ﾚｽ抽出画像ﾚｽ抽出歴の未読ｽﾚ AAｻﾑﾈｲﾙ

ぬこの手ぬこTOP 0.007s