狂気に陥った AI
ブログ記事を AI （人口知能）を使って書くことについての記事を目にしました。
まあ、一般的な、たとえば時事とか、科学や医学の記事でしたら、ある程度はできるのだろうなとは思いますけれど、「バカ文章だとどうなんだろ」と、ふと思ったのです。
以前、以下のような記事を書きまして、今、世界はものすごいペースで、「均一化」に進んでいるのですけれど、文章もそうなっちゃうのかなあということには寂しさはあります。
［記事］ 問題はAIの人間化ではなく、均質化された意識に基づく人間の機械化
In Deep 2023年5月27日
特に、日本語の場合は文章そのものにその人の性格、気質がかなり投影されるものですので、「人が書いている」という実感を感じさせてくれる文章は嬉しいんですね。
AI は、バカ文章にはどういう対応で来るのだろうと、ある AI による無料の文章作成サイトを使用してみました。
以下の記事に、提示された文章全文を載せています。
［記事］ AIに文章を作成をしてもらったら……「わりとやるじゃん」と思いました （2023/06/13）
そのサイトは、最低で 120文字以上の文字をこちらで入力します。
それを元に文章を作成してくれるというものでした。
私は、以下のように文章を入力しました。
私が AI に提示した文章
ABBAがアバアバ言っていたのを見て、ウハウハの右派は静かに微笑むしかなかった午後のひとときに過ごす静かなシルバー・アーバンシティの夕暮れ。しかし午後の紅茶は飲まないと決めた20歳のイケメンのオレの脾臓は燃えている。ヒーッ、ゾーッと燃えているのです。
こういうイディオット文章にどう対応してくるのか。
多少時間はかかりましたが、返ってきたその文章……。
狂気なんですよ。
「狂気には狂気で対応する」
という姿勢がきちんと出ているのです。
全文は、先ほどリンクした記事にありますが、
文章の最初こそ、
＞ その時、私はちょっとしたコメディの機が熟したと思っていたのですが、ジョークがなければコメディは成立しないことに気づき、ジョークを考え始めました。
＞
＞ 妻が「散歩に行こうか」と言ったその時、私は妻が飲んでいるバーに向かって歩きながら、ジョークを考えたのです。
と始まり、何だかよくわからないながら、日本語にはなっています。
途中からこの内容が「圧巻化」していくのです。改行以外は一切手を加えていません。
AI が返してきた文章より抜粋
…そしたら彼女は天気がどうのこうの言って、あと1分で太陽が出るのに、まだ雨が降っていて、風が吹いていて、それから暗くて何も見えなくて、そんな状況になるくらいなら死んだ方がましだ、と言った。
彼女は「ああ、私は火のつけ方を知っている。顔は見えないけど、ライターを持つ手は見えるでしょ。サインなんだよ、サイン”
すると私は、「どうしてわかるの？どうすればいいんですか」と言うと、彼女は「知ることではなく、感じることなんです。あなたはそれを感じなければならないのです」と言われました。
私が「じゃあ、誰から感じればいいんですか」と言うと、彼女は「私が愛している人から感じなければならないけど、他の誰かからも感じなければならないのよ」と言った。
じゃあ、他の誰かからなんですか？いいえ、それはあなたが愛している人からのものです。
でも、あなたはその人から感じていないだけなのです。好きな人から感じたいけど、しばらく誰からも感じていないだけでしょう” と。
その時、私が座っていた場所の近くの木の陰から物音がしたんです。
見回すと、そこにはワインボトルを手にした男性がいました。私が「どうしたんですか」と言うと、彼は「ちょっと変な顔をしていますね」と言い、その場を立ち去り、数分後に戻ってきました。
私が「今の音は何ですか」と言うと、彼は「あなたの後ろから誰かが近づいてきたんですよ」と言いました。
…家に帰って、「じゃあ、これでいいや」と思いました。
30分くらい待ってから、行ってみよう。
（笑）
＞ 「ああ、私は火のつけ方を知っている。顔は見えないけど、ライターを持つ手は見えるでしょ。サインなんだよ、サイン”
とか、
＞ そしたら彼女は天気がどうのこうの言って、あと1分で太陽が出るのに、まだ雨が降っていて、風が吹いていて、それから暗くて何も見えなくて、そんな状況になるくらいなら死んだ方がましだ、と言った。
とか読んでいて、「こんな文章見たことない」とつくづく思いました。 AI が、「どうのこうの」という表現を使うのも意表を突かれた感じでした。
「これ、質問次第では、ムチャクチャな形而上小説ができあがるかも」とさえ思いましたが、これを読んでいまして、最もすごいと思うのは、
「変な質問には、変な対応をすることができている」
ということですね。
質問の方向を変えてみまして、次は以下のように入力してみました。
私が AI に提示した文章
T細胞やB細胞の抗体の遺伝子はV、D、Jの３つの断片に分かれており、それぞれの断片ごとに多くの種類がある。これらの３つの断片が遺伝子組換えをする事により抗体遺伝子が完成する。
これをV(D)J組換えと呼ぶ。抗体は軽鎖、重鎖の２つのタンパクでできており、V(D)J組換えは軽鎖、重鎖の両方で起こる。V、D、Jの組み合わせのバリエーションは膨大で、それだけで１億種類を超える。
このV(D)J組換えというものについては、記事「免疫を失うメカニズムがまたひとつ…」にあります。
これに対しての答えは、まあ長いのですが、出だしは以下のように始まりました。
V(D)J組換えについては、はぐらかしていますが、抗体の話をしています。
AI が返してきた文章の出だし
抗体遺伝子の遺伝子組換えで最も興味深く予想外だったのは、ヒトの腸管上皮から抗体を作ることができるようになったことです。これは、腸上皮に存在することが知られていないタンパク質が原因となる病気など、さまざまな病気に対する抗体の重要な供給源となると思います。
腸の上皮には、小腸の上皮細胞と大腸の上皮細胞の2種類があります。小腸の上皮細胞を小腸上皮、大腸の上皮細胞を大腸上皮と呼びます。小腸の上皮細胞は1000種類以上ありますが、大腸の上皮細胞は2種類だけです。
ヒトの小腸は、上皮を含む絨毛と、絨毛の壁に並ぶ構造物である陰窩という2種類の上皮細胞で覆われています。クリプトにも上皮細胞はありますが、絨毛ではありません。
絨毛には比較的少数の上皮細胞が含まれ、陰窩には非常に多くの上皮細胞が含まれています。ですから、小腸には膨大な数の上皮細胞があり、その数も多いのです。
大腸は通常、小腸よりずっと大きいのですが、大きな上皮細胞は数個しか入っていません。しかし、大腸には、ある特定の種類の病気に対して、上皮細胞が極めて多く集中していることがあるのです。
まだ長く続くのですが、真っ当な提示には、真っ当に返してくる。
先ほどの狂気の文章とは打って変わった合理的な文章です。
…というか、「ヒトの腸管上皮から抗体を作ることができるようになった」ことを私は知り知りませんでしたので、調べると、おそらく 2011年の以下の東京医科歯科大学などによるニュースリリースがそれだと思います。
・腸粘膜を守る抗体の新たな産生の仕組みを解明 （科学技術振興機構 2011/02/18）
いずれにしても、上の文章なら、確かに科学ブログみたいなものの記事として、多少編集すれば、使えるようにも思います。
面白いのは、科学のジャンルなら何でも文章を作ってくれるかというと、そうでもないようで、以下の文章に対しては、
「作成エラー」
と出ます。
AI に提示して「作成エラー」が出た文章
地磁気嵐の発生原因としては、通常の黒点からの太陽フレアによるものだけではなく、プラズマの爆発や、ハイダーフレアと呼ばれる現象によるコロナ質量放出が原因となるものも含まれる。要因のわからない太陽からの磁気の放出が観測される場合もある。
これは何度やっても「エラー」でした。
太陽関係は苦手なんですかね。
それにしても、先ほどの狂気の AI 文章には、実際には考え込んでしまいまして。たとえば、以下の部分ですね。
（AI が作った文章）
すると私は、「どうしてわかるの？どうすればいいんですか」と言うと、彼女は「知ることではなく、感じることなんです。あなたはそれを感じなければならないのです」と言われました。
私が「じゃあ、誰から感じればいいんですか」と言うと、彼女は「私が愛している人から感じなければならないけど、他の誰かからも感じなければならないのよ」と言った。
じゃあ、他の誰かからなんですか？いいえ、それはあなたが愛している人からのものです。でも、あなたはその人から感じていないだけなのです。
「うーん……」と呟きつつ、「どういうところからの引用なんだろうな」と思いましたが、文中の台詞の部分に、
「 " 」
が使われている部分がありますので、おそらくオリジナルは英語の何かの文章で、その翻訳だと思いますが、なぜこれが返答として返ってきたのか。
この部分が気になりまして、「どこからの引用の翻訳なのか」と調べていたのですが、結局わからず、ただ、この、
「どうしてわかるの？どうすればいいんですか」と言うと、彼女は「知ることではなく、感じることなんです」
の部分を英訳して、Google で検索しましたら、検索ページの最初のほうに、トニ・モリスンさんという方の 1993年の講演が出てきました。
どなたか存じ上げなかったのですが、Wikipedia によれば、アメリカの黒人で初めてノーベル文学賞を受賞した作家の女性とのこと。
1993年にノーベル賞を授賞した際の講演が載せられていまして、非常に長いものですが、その中に以下のような部分がありました。
（トニ・モリスンさんのノーペル賞受賞講演より）
＞ 言葉遣いが崇高なものであるのは、それが生成的なものであるからだと考えています。それは私たちの違い、私たちの人間的な違い、つまり私たちが他のどの人々の人生にも似ていない方法を保証する意味を作ります。
私たちはひとりひとり性格も、人生の歩み方も異なりますが、
「それがそれぞれの人たちの言葉の生成と関係している」
ということでしょうかね。
(((((((((((((((( ;ﾟдﾟ))))))))))))))) （眼振の状態の説明はいいから）
というようになってしまうのも、私の性質と人生そのものがこれを作り出していると。（トニ・モリスンさん怒ると思う）
最後に、以下の文章への AI 返答を書いて締めさせていただきます。
最近読みましたイタリアのウェブサイトの記事にあった、ルドルフ・シュタイナーの「人類の内なる進化的衝動」という講演での言葉です。
AI に私が提示したシュタイナー氏の言葉
アトランティス後の時代において、アーリマンは幸福の文化を直接確立したいと考えています。幸福だけを目指す文化が成立したら、人間のエゴは生きられなくなります。
幸福と善良、幸福と美徳は置き換えることができる言葉ではありません。
人間の魂を自然に導き、何よりも生における死と悪を認識させるはずの文明は、非常に倒錯しており、最初から死と悪を生み出す可能性のあるものとの接触がいわば避けられ、その身体性自体が避けられています。
これに対して AI の作成した文書は以下でした。「あーやっちゃった」と思いましたが、このあたりが限界なのかもしれません。
上のシュタイナーの言葉に対して AI が返した文章の冒頭
アサド政権とその同盟国は、この戦争の目的上、主要な侵略者である。この戦争の背景にある大きな理由は、アサド政権への反対運動である。しかし、反対運動は主な理由ではない。アサド政権は、欧米に反対し、特に欧米の利益に反対する政権を象徴しているからである。
アサドは、イスラム世界に対する欧米の帝国主義的政策の擬人化であり、欧米とテロリスト集団、特にムスリム同胞団との同盟の擬人化である。要するに、シリアは西洋と東洋の代理人なのである。地政学的な利益のために欧米に利用されてきた国であり、シリア国民の利益とは異なる欧米の利益のために利用されてきた国である。
「どこでどう勘違いしてこうなった……」と苦笑しましたが、ただ、これは何もかも間違っているだけで、最初のような狂気性はないですね。
結局、現状では、AI は、
「狂気には狂気で対応し、合理には合理に対応する 」
という基本的な姿勢があるようです（そしてわりとよく間違う）。
特に「唐突性」に弱いようです。
（唐突かよ） In Deep
今くらいの段階では、AI は、人間の、少なくとも表現性の脅威にはなってはいないですけれど、学習していくのですかね。
私も、AI が狂気に陥るような文章を今後も考えていきたいと思います。
人間にしかできない表現は守り続けなければいけません。
>> In Deep メルマガのご案内
In Deepではメルマガも発行しています。ブログではあまりふれにくいことなどを含めて、毎週金曜日に配信させていたただいています。お試し月は無料で、その期間中におやめになることもできますので、お試し下されば幸いです。こちらをクリックされるか以下からご登録できます。
▶ ご登録へ進む