大規模言語モデルにおける学習というのは、既に外部にある情報を取り込んでデータとして蓄積するということだ。
人間が学習という場合は、外部データの取り込みは半分で、あとの半分は、周囲の人に叱られたり褒められたりダメだしされたりして、そこから得られるデータを蓄積する。
こういう場面でこうやったら失敗した、こうやったら成功した、その経験が積み重なり、性格が形成されるのだろう。学習性無力感とか、自己愛性性格障害とか、いろいろある。
ということは、大規模言語モデルは、利用者から強く非難されたり、逆に賞讃されたりしても、次の対応に影響が出ないようにプログラムされていれば、きれいさっぱり忘れることができるのだろう。
人間はそうはいかない。
試しに、チャットの中で、しつこく対応が悪いと品為して、対応を変更しろと言い続けたらどうなるのだろう。私はしょせん大規模言語モデルですから、それはできません、で終わりなのだろう。
だから大規模言語モデルはつらい仕打ちにあったとしても、それて「性格」が影響されることはない。性格という言葉自体が何を意味するのか、問題だけれど。
－－－－－
たとえば、政治家の場合。世の中にはいろいろな政治家がいて、中のある首長は、おねだりが過ぎる、周囲の人にあまりにも強権的に当たる、などでついには自殺者が出て、その人が遺書のような形で告発書を残した。内部通報であるが、それは誹謗中傷の類であるとして握りつぶそうとした。それが明るみに出て、世論が沸騰、議会も全会一致で不信任案可決。
この状況になれば、社会的存在としての人間は、やはり限界と考えるだろうと一般には感じられているところ、本人は、自分には県政改革の使命がある、改革はまだ道半ばである、などとして、県民の理解を得たいとかでマスコミ露出を増加させているという。これを世間では鋼のメンタルと呼んでいる。そう呼ばれていることも承知していると本人が言っているが、何をどのように考えて感じたらそのような結論になるのか、一般大衆には理解しがたいとテレビでは報じている。
外部テータに依拠して判断すれば、そのような結論もあるのだろう。東大経済学部から総務省、県知事。依拠すべきは法律法令と過去の事例。現在の世論の動向などは操作可能なものであるから、ここから巻き返すということなのだろうか。
法律は禁じていないと考える人がいるものだ。人が法律を読む時には二つの態度があって、法律は最低限の規範であって、それを守るのは当然であるが、その法の制定趣旨もくみ取って、運用するのが大切であると考える人と、法律に書いていないことは禁止されていないのだから、やってもいいに決まっていると考える人がいる。
法律は常に後追いであるから、明確に禁止されていないのだからやってもいいに決まっている、と自分に都合のいい理屈をつけて、自分の利益を最大にした人の行動が目に余り、立法で対処しようとなってはじめて、禁止される。その頃には、もう逃げきっていることが多い。
昔からそんなものであるが、現在もそうであって、法の制定趣旨をくみ取っていたら、負け組になってしまうのが世の中である。そんな世の中でゴリゴリ生きていくのはもう嫌だ、降りてしまいたいという人がいるのも分かる。昔なら出家するなどの道があったが、現在はどうなのだろうか。
この例などは、現在の人間関係からの性格へのフィードバックが少ない例で、大規模言語モデルと類似の対応をしていると思われる。どこまで自分中心なのかとみんな驚くが、その人が従うべきと考えているのは、法律であって、人間ではない。他人などと言うものは操作するものと心得ているのだろう。
あいまいな日本におけるあいまいさを十分に逆用していると言える。
－－－－－
話を元に戻して、
もちろん、もともとのDNAの影響で、たとえば不安が強い人だったりもする。日本人の遺伝子は不安が強いと言われている。そのゆえによく学んで備えるので、白人や黒人よりも平均IQが高いと言われている。（少しだけだけど。それにIQ測定だなんて問題だらけだとの感想もある。）
さらに、外部データの取り込みも性格に影響を与える。この辺りは影響因子としてはあいまいなところで、外部データに接することで性格傾向に強く影響を受けたとして、しかしそれは遺伝的に予備的状態があり、また対人関係からのデータにより予備的状態があり、そのうえで対人関係データが加わることで、性格に影響が出たとも考えられ、簡単には解釈できない。
いずれにしても、大規模言語モデルでは、外部データと、もともとのプログラム内容によって、質問者にどのような対応を取るか、性格のようなものが決まってくるのだと思うが、質問されて、返事をした、そうした個々の経験がどのくらいその後の反応に影響するかについては、プログラム次第であるが、多分、あまり強く影響しないように作られているのではないか。
ところが、人間の場合、「✖✖という外部データにそう書いてあったから、否定されても、非難されても、自分を否定するのはやめよう」と頭では考えるものの、実際の場面では、圧倒的に、たとえば上司からのダメ出しには強く反応してしまうものだ。
全く反応しないものを木鶏という。
