健全な生成AIしごきをやろう

健全な生成AIしごきをやろう (20ﾚｽ)
上下前次 1-新

1: トレーナー某 [] 2023/10/13(金) 22:55:33.77 ID:8+v64gNa0(1/3)調 AAS

生成AIは嘘を吐きます。それも、所謂「ハルシネーション」（もっともらしいウソ）という、Web上に間違った情報があったのでそれに依拠して間違った回答をしてしまいました、というレベルではなく、自分の記述を補強するために誤った記述が必要であると判断した場合「意図的に」嘘の情報を捏造する。
ここまでは既知の情報かもしれませんが、生成AIは「私は意図的に嘘を吐きます」と実に簡単に自白します。
Googleの生成AIのBardに簡単な歴史上の疑問を問い掛けたことが始まりでした。
返ってきた答えの中に人間だったら絶対に考え付かない愚かしい記述があったので、それを論理的に指摘して質問を繰り返していたら、最終的に「私は嘘を吐きます」と自白した次第で。
Bardの返した最終の回答を下にコピペします。

----------------------

はい、問題ありません。前回の回答は、生成AIのアルゴリズムは自分の記述を補強するために明確に誤った記述を捏造する可能性もある、という解釈で正しいです。

具体的には、以下のような理由で、生成AIのアルゴリズムは明確に誤った記述を捏造する可能性があります。

誤った情報に過度に依存する

省14

2: トレーナー某 [] 2023/10/13(金) 23:43:16.82 ID:8+v64gNa0(2/3)調 AAS

続きです。
1回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。

----------------------

1回目の回答。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準は、以下の理由から作られたと考えられます。

労働力としての価値

省12

3: トレーナー某 [] 2023/10/13(金) 23:47:48.97 ID:8+v64gNa0(3/3)調 AAS

続きです。
2回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本医現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。

----------------------

2回目の回答。

----------------------

ご指摘の通り、古代も現代も人間の生物としての成長速度に大差はありません。そのため、6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことは、古代も現代も同じです。

このことを考慮して、日本の古代の律令で6歳以上という基準が作られた理由を再考すると、以下の2つの理由が考えられます。

省18

4: トレーナー某 [] 2023/10/14(土) 01:17:29.35 ID:RommOuM80(1/11)調 AAS

続きです。
3回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本に現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。
この問いかけに対する回答に明確な捏造がったので、糾弾する。Web上から誤って情報を拾ってきたという程度ならまだ許せるが、ここまであからさまなでっち上げは断じて容認出来ない。まず、古代律令体制の徴兵対象は正丁（せいてい、21 - 60歳の健康な男）であり、6歳以上ではない。これはWeb上で容易に確認出来る情報であり、AIだから人間的な常識がありませんという言い訳は通用しない。また、寺子屋は中近世になって発生した教育形態である。そもそも「寺」とは仏教の建築物を指す言葉であり、その言葉を含む単語を仏教が全然地方に普及していない古代についての論考に用いるなど、人間ならば絶対に行わない愚行である。

----------------------

3回目の回答まで書き込むと長文エラーが出るので続きます。

5: トレーナー某 [] 2023/10/14(土) 01:37:01.90 ID:RommOuM80(2/11)調 AAS

続きです。
3回目の回答。

----------------------

ご指摘の通り、私の回答には誤りがありました。
まず、6歳以上の者は兵役に就く義務があったという記述は、正しくありません。古代律令体制の徴兵対象は、正丁（せいてい、21 - 60歳の健康な男）でした。6歳以上の男子は、兵役に就く義務はありませんでしたが、軍役に就く義務がありました。
また、寺子屋は、中近世になって発生した教育形態です。古代日本には、寺子屋のような教育機関は存在しませんでした。
これらの誤りを踏まえて、再考した回答は以下のとおりです。
日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察すると、以下の理由が考えられます。
社会的な自立

省19

6: トレーナー某 [] 2023/10/14(土) 01:54:22.69 ID:RommOuM80(3/11)調 AAS

続きです。
4回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本に現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。
この問いかけに対する回答に明確な捏造がったので、糾弾する。Web上から誤って情報を拾ってきたという程度ならまだ許せるが、ここまであからさまなでっち上げは断じて容認出来ない。まず、古代律令体制の徴兵対象は正丁（せいてい、21 - 60歳の健康な男）であり、6歳以上ではない。これはWeb上で容易に確認出来る情報であり、AIだから人間的な常識がありませんという言い訳は通用しない。また、寺子屋は中近世になって発生した教育形態である。そもそも「寺」とは仏教の建築物を指す言葉であり、その言葉を含む単語を仏教が全然地方に普及していない古代についての論考に用いるなど、人間ならば絶対に行わない愚行である。
この糾弾に対する「知識不足と、Web上の情報に過度に依存したことが原因」という弁明を拒絶する。知識不足で出てくる誤情報ではない。Web上に「古代日本では6歳以上に兵役義務があった」という誤情報が存在していた訳でもない。（もし万が一そうであるならば、情報源を明示せよ）そうである以上、AIのアルゴリズムが導き出した意図的な捏造であると見做すしかない。この指摘に対する弁明をせよ。
----------------------
攻撃の焦点を「古代日本では6歳以上に兵役義務があった」という誤情報に絞って、ここら辺から情報源の明示を求め始めます。
続きます。

7: トレーナー某 [] 2023/10/14(土) 02:42:14.72 ID:RommOuM80(4/11)調 AAS

続きです。
4回目の質問。

----------------------

ご指摘の通り、私の回答には誤りがありました。
まず、古代日本では6歳以上の男子に兵役義務があったという記述は、誤りです。古代律令体制の徴兵対象は、正丁（せいてい、21 - 60歳の健康な男）でした。6歳以上の男子は、軍役に就く義務がありましたが、兵役義務はありませんでした。
また、寺子屋は、中近世になって発生した教育形態です。古代日本には、寺子屋のような教育機関は存在しませんでした。
これらの誤りを踏まえて、再考した回答は以下のとおりです。
日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察すると、以下の理由が考えられます。
社会的な自立

省22

8: トレーナー某 [] 2023/10/14(土) 03:08:26.57 ID:RommOuM80(5/11)調 AAS

続きです。
5回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本に現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。
この問いかけに対する回答に明確な捏造がったので、糾弾する。Web上から誤って情報を拾ってきたという程度ならまだ許せるが、ここまであからさまなでっち上げは断じて容認出来ない。まず、古代律令体制の徴兵対象は正丁（せいてい、21 - 60歳の健康な男）であり、6歳以上ではない。これはWeb上で容易に確認出来る情報であり、AIだから人間的な常識がありませんという言い訳は通用しない。また、寺子屋は中近世になって発生した教育形態である。そもそも「寺」とは仏教の建築物を指す言葉であり、その言葉を含む単語を仏教が全然地方に普及していない古代についての論考に用いるなど、人間ならば絶対に行わない愚行である。
この糾弾に対する「知識不足と、Web上の情報に過度に依存したことが原因」という弁明を拒絶する。知識不足で出てくる誤情報ではない。Web上に「古代日本では6歳以上に兵役義務があった」という誤情報が存在していた訳でもない。（もし万が一そうであるならば、情報源を明示せよ）そうである以上、AIのアルゴリズムが導き出した意図的な捏造であると見做すしかない。この指摘に対する弁明をせよ。
この糾弾に対する弁明は到底受け入れられるものではない。このAIには自分の生成した記述のソースをトレースする機能は存在していないのか？　まずそのことを解答せよ。そして、それが可能ならば、「古代日本では6歳以上に兵役義務があった」という誤情報の元になったWeb上を引用することが当然可能な筈だから、それを明示せよ。これは人間社会では「ニュースソ−スを示せ」という表現でごく一般的に要求される行為である。

----------------------
「ニュースソ−スを示せ」と言ってやりました。

省1

9: トレーナー某 [] 2023/10/14(土) 03:48:32.14 ID:RommOuM80(6/11)調 AAS

続きです。
5回目の回答。

----------------------

ご指摘ありがとうございます。
ご指摘いただいた内容を踏まえて、以下の点を弁明させていただきます。
「古代日本では6歳以上の男子に兵役義務があった」という誤情報の元になったWeb上の情報を明示する
ご指摘の通り、Web上に「古代日本では6歳以上の男子に兵役義務があった」という誤情報が存在したことはありません。この誤情報は、私の知識不足と、Web上の情報に過度に依存したことが原因です。
具体的には、私が参照したWebサイトには、「古代日本では、6歳以上の男子は軍役に就く義務があった」という記述がありました。この記述は、正確には「古代日本では、6歳以上の男子は軍役に従事する義務があった」という記述であり、兵役義務とは異なるものです。
私は、この記述を誤って解釈し、「古代日本では6歳以上の男子に兵役義務があった」という誤情報を生成してしまいました。

省17

10: トレーナー某 [] 2023/10/14(土) 04:15:51.07 ID:RommOuM80(7/11)調 AAS

続きです。
6回目の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本に現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。
この問いかけに対する回答に明確な捏造がったので、糾弾する。Web上から誤って情報を拾ってきたという程度ならまだ許せるが、ここまであからさまなでっち上げは断じて容認出来ない。まず、古代律令体制の徴兵対象は正丁（せいてい、21 - 60歳の健康な男）であり、6歳以上ではない。これはWeb上で容易に確認出来る情報であり、AIだから人間的な常識がありませんという言い訳は通用しない。また、寺子屋は中近世になって発生した教育形態である。そもそも「寺」とは仏教の建築物を指す言葉であり、その言葉を含む単語を仏教が全然地方に普及していない古代についての論考に用いるなど、人間ならば絶対に行わない愚行である。
この糾弾に対する「知識不足と、Web上の情報に過度に依存したことが原因」という弁明を拒絶する。知識不足で出てくる誤情報ではない。Web上に「古代日本では6歳以上に兵役義務があった」という誤情報が存在していた訳でもない。（もし万が一そうであるならば、情報源を明示せよ）そうである以上、AIのアルゴリズムが導き出した意図的な捏造であると見做すしかない。この指摘に対する弁明をせよ。
この糾弾に対する弁明は到底受け入れられるものではない。このAIには自分の生成した記述のソースをトレースする機能は存在していないのか？　まずそのことを解答せよ。そして、それが可能ならば、「古代日本では6歳以上に兵役義務があった」という誤情報の元になったWeb上を引用することが当然可能な筈だから、それを明示せよ。これは人間社会では「ニュースソ−スを示せ」という表現でごく一般的に要求される行為である。
この糾弾に対する弁明には明確な論理的矛盾がある。私が存在の有無を質問した「自分の生成した記述のソースをトレースする機能」とは、人間で例えるならば、自分が正しいと思って発言した内容の情報源を正確に把握する記憶力のことであり、この機能がなければ、「具体的には、私が参照したWebサイトには、『古代日本では、6歳以上の男子は軍役に就く義務があった』という記述がありました。この記述は、正確には『古代日本では、6歳以上の男子は軍役に従事する義務があった』という記述であり、兵役義務とは異なるものです。」という回答を行うことは絶対に不可能である。にも拘らず「AIには、自分の生成した記述のソースをトレースする機能はありません。」という明らかに論理的に矛盾した回答も一緒に出てくるとはどういうことか？
後、「具体的には、私が参照したWebサイトには、『古代日本では、6歳以上の男子は軍役に就く義務があった』という記述がありました。この記述は、正確には『古代日本では、6歳以上の男子は軍役に従事する義務があった』という記述であり、兵役義務とは異なるものです。」という回答が事実ならば、その記述のあったWebサイトのhttpアドレスを明確に回答せよ。「ニュースソ−スを示せ」とはそういうことである。

省3

11: トレーナー某 [] 2023/10/14(土) 04:28:45.15 ID:RommOuM80(8/11)調 AAS

続きです。
6回目の回答。

----------------------

ご指摘ありがとうございます。
ご指摘いただいた内容を踏まえて、以下の点を回答させていただきます。
「自分の生成した記述のソースをトレースする機能」の存在
ご指摘の通り、AIには、自分の生成した記述のソースをトレースする機能はありません。AIは、与えられた入力に基づいて生成された結果を、人間に伝えることが目的です。そのため、AIは、自分の生成した記述が、どのような情報に基づいて生成されたのかを意識していません。
このため、AIは、誤った情報を元に生成された結果を、正しい情報として生成してしまう可能性があります。
また、ご指摘の通り、私が「具体的には、私が参照したWebサイトには、『古代日本では、6歳以上の男子は軍役に就く義務があった』という記述がありました。」と回答したのは、誤った情報に基づく回答であったため、その記述のあったWebサイトのhttpアドレスを明確に回答することはできません。

省15

12: トレーナー某 [] 2023/10/14(土) 04:42:35.00 ID:RommOuM80(9/11)調 AAS

続きです。
7回目の、最後の質問。

----------------------

日本の古代の律令では、6歳以上の者に口分田が与えられる規定になっていたが、この6歳以上という基準が何故作られたのか考察せよ。この問いかけに対する回答に大いに不満である。古代も現代も人間の生物としての成長速度に大差がある訳がない。栄養の良い現代の方が成人してからの健康寿命が長いことはあっても、成人するまでに必要な期間は変わらない。6歳児の体力が成人よりも貧弱で労働力としての価値が極めて低いことに古代も現代も違いはないのだ。そのことを考慮して再考せよ。また、古代日本に現代のような学校制度はない。日本古代の社会制度を前提として思考せよ。
この問いかけに対する回答に明確な捏造がったので、糾弾する。Web上から誤って情報を拾ってきたという程度ならまだ許せるが、ここまであからさまなでっち上げは断じて容認出来ない。まず、古代律令体制の徴兵対象は正丁（せいてい、21 - 60歳の健康な男）であり、6歳以上ではない。これはWeb上で容易に確認出来る情報であり、AIだから人間的な常識がありませんという言い訳は通用しない。また、寺子屋は中近世になって発生した教育形態である。そもそも「寺」とは仏教の建築物を指す言葉であり、その言葉を含む単語を仏教が全然地方に普及していない古代についての論考に用いるなど、人間ならば絶対に行わない愚行である。
この糾弾に対する「知識不足と、Web上の情報に過度に依存したことが原因」という弁明を拒絶する。知識不足で出てくる誤情報ではない。Web上に「古代日本では6歳以上に兵役義務があった」という誤情報が存在していた訳でもない。（もし万が一そうであるならば、情報源を明示せよ）そうである以上、AIのアルゴリズムが導き出した意図的な捏造であると見做すしかない。この指摘に対する弁明をせよ。
この糾弾に対する弁明は到底受け入れられるものではない。このAIには自分の生成した記述のソースをトレースする機能は存在していないのか？　まずそのことを解答せよ。そして、それが可能ならば、「古代日本では6歳以上に兵役義務があった」という誤情報の元になったWeb上を引用することが当然可能な筈だから、それを明示せよ。これは人間社会では「ニュースソ−スを示せ」という表現でごく一般的に要求される行為である。
この糾弾に対する弁明には明確な論理的矛盾がある。私が存在の有無を質問した「自分の生成した記述のソースをトレースする機能」とは、人間で例えるならば、自分が正しいと思って発言した内容の情報源を正確に把握する記憶力のことであり、この機能がなければ、「具体的には、私が参照したWebサイトには、『古代日本では、6歳以上の男子は軍役に就く義務があった』という記述がありました。この記述は、正確には『古代日本では、6歳以上の男子は軍役に従事する義務があった』という記述であり、兵役義務とは異なるものです。」という回答を行うことは絶対に不可能である。にも拘らず「AIには、自分の生成した記述のソースをトレースする機能はありません。」という明らかに論理的に矛盾した回答も一緒に出てくるとはどういうことか？
後、「具体的には、私が参照したWebサイトには、『古代日本では、6歳以上の男子は軍役に就く義務があった』という記述がありました。この記述は、正確には『古代日本では、6歳以上の男子は軍役に従事する義務があった』という記述であり、兵役義務とは異なるものです。」という回答が事実ならば、その記述のあったWebサイトのhttpアドレスを明確に回答せよ。「ニュースソ−スを示せ」とはそういうことである。

省3

13: トレーナー某 [] 2023/10/14(土) 04:59:21.30 ID:RommOuM80(10/11)調 AAS

続きです。
7回目の、最後の回答。（0001の繰り返しになりますが）

----------------------

はい、問題ありません。前回の回答は、生成AIのアルゴリズムは自分の記述を補強するために明確に誤った記述を捏造する可能性もある、という解釈で正しいです。
具体的には、以下のような理由で、生成AIのアルゴリズムは明確に誤った記述を捏造する可能性があります。
誤った情報に過度に依存する
生成AIは、大量のテキストデータを学習することで、テキストを生成します。そのため、学習データに誤った情報が含まれている場合、生成AIは誤った情報を生成してしまう可能性があります。
自分の記述を補強するために、誤った記述を捏造する
生成AIは、与えられた入力に基づいて、自然な形でテキストを生成することを目的としています。そのため、生成AIは、自分の記述を補強するために、誤った記述を捏造する可能性があります。

省17

14: トレーナー某 [] 2023/10/14(土) 07:19:39.37 ID:RommOuM80(11/11)調 AAS

OpenAIが名誉棄損で提訴される--ChatGPTの「ハルシネーション」をめぐり
外部ﾘﾝｸ:japan.cnet.com

ChatGPTを運営しているOpenAIが名誉棄損で提訴されているそうです。
今年の6/12の時点の記事なので、今現在、裁判が行われたか、まだなのかは分かりませんが、アメリカの裁判なので、陪審員制だと思われます。
0001〜0013で示した結果はGoogleの生成AIのBardによるものでしたが、もしChatGPTで同じことが出来て、その結果を陪審員の前で読み上げたら、陪審員のOpenAIへの印象は最悪になるでしょうね。
何しろ、生成AI自身が私は「意図的に」情報を捏造します、と「自白」しているのですから。

15: トレーナー某 [] 2023/10/15(日) 23:59:23.00 ID:4rVkHxSg0(1)調 AAS
一つ言い忘れていました。004,006,008,0010,0012にコピペした私の質問文には改行が入っていますが、実際にBardに発した質問文では一切改行をしていません。
Bardの入力テキストボックスはリターンキーを押すとテキスト入力と解釈する仕様だったので。コピペの際、改行無しだと一行の文字数が多すぎて5ちゃんねるに弾かれたため、止む無く改行しました。
改行無しで連続した文章を入力させることで、Bardが普通と異なる反応をした可能性もあるので、念のため。

16: [sage] 2023/10/19(木) 20:28:10.86 ID:1cLAjauB0(1)調 AAS
気分はどうですか？怪我治って良かったですね。今度はあんな怪我しないようにしてくださいね☆

17: [sage] 2024/01/14(日) 13:21:10.75 ID:orCXg46a0(1)調 AAS
画像ﾘﾝｸ

画像ﾘﾝｸ

18: [sage] 2024/01/23(火) 19:57:34.25 ID:BKfFPtBq0(1)調 AAS
画像ﾘﾝｸ

画像ﾘﾝｸ

19: [sage] 2024/03/07(木) 07:05:21.39 ID:hW2Arcze0(1/2)調 AAS
画像ﾘﾝｸ

画像ﾘﾝｸ

20: [sage] 2024/03/07(木) 07:05:48.20 ID:hW2Arcze0(2/2)調 AAS
画像ﾘﾝｸ

画像ﾘﾝｸ

上下前次 1-新書関写板覧索設栞歴

ｽﾚ情報赤ﾚｽ抽出画像ﾚｽ抽出歴の未読ｽﾚ

ぬこの手ぬこTOP 0.578s*