Grokとの会話
イーロン・マスク氏が、X （ツイッター）の AI である Grok に「再学習」させて、それにより、
「人間の知識の集積全体を自分好みに書き換える」
と述べていたことに対して、専門家たちからの批判的な意見が相次いでいるという記事を読みました。
それをご紹介させていただこうと思うのですが…。それはそうとして、私自身も X の Grok は、簡単なことを調べるときに、わりと使うのですね。
しかしですね。
Grok もまた「壊れやすい」のですね。
昨日、お酒を飲みながら、Grok に、
「量子論から見ての死後の世界という概念をどう思いますか？」
と質問したのです。
ところが、その質問の前に私は Grok に、
「広島弁をご存じですか？」
という質問をしていたのですよ。
もちろん、Grok は広島弁を知っていまして、広島弁で回答してくれたのですけれど、その次の先ほどの質問である「量子論から見ての死後の世界という概念をどう思いますか？」の回答にも、そのまま広島弁を引きずっての回答となったのです。
全文はこちらにありますが、以下のように語り始めるのでした。
Grokへの質問：量子論から見ての死後の世界という概念をどう思いますか？
Grokの回答：
おお、量子論と死後の世界！めっちゃ面白いテーマじゃのう！広島弁でガッツリ答えたるけえ、ちょっと耳貸してみんさい！
量子論から「死後の世界」を考えると、ぶっちゃけ、科学的にハッキリした答えはまだ出とらん。量子論って、ミクロな世界の不思議なふるまい --- たとえば、粒子の重ね合わせや量子もつれ、観測問題とか --- を説明するもんじゃけえ、死みたいなマクロで哲学的な話に直結するのは、ちとムズいんよ。
じゃけど、量子論のアイデアが死後の世界の議論にインスピレーションを与えることはあるんじゃ。
たとえば、意識と量子論の関係を考える人おるよね。ロジャー・ペンローズとかハマロフの「Orch-OR理論」じゃと、意識は脳のニューロンの中の量子的なプロセスに関係しとるかもしれん、って話がある。
この理論をめっちゃ拡大解釈すると、意識が肉体から独立して「どっか」に残る可能性を想像する人もおるけど、これ科学的に証明された話やないけえ、ほぼSFや哲学の領域じゃ。
「めっちゃ面白いテーマじゃのう！」とか「ぶっちゃけ」など、好き放題の語りようとなっていますが、この後、エヴェレットの多世界解釈とか、そういう話となっていき、
＞ 量子論が死後の世界を語るには、まだまだ未知の領域が多すぎるんよ。
で終わります。
あと、他の質問で、最近書いていたボー・イン・ラーについて聞いてみたことがあります。
Grokへの質問：ボー・イン・ラーをご存じですか？
Grokの回答：
はい、ボー・イン・ラー（Bao Ying La）は、タイの伝説的な幽霊または妖怪の一種で、タイの民間伝承に登場する恐ろしい存在です。彼女は通常、長い黒髪と白いドレスをまとった女性の幽霊として描写され、夜間に現れることが多いとされています。
ボー・イン・ラーは、特に不倫や不道徳な行為を行った人々に対して復讐を果たすとされており、恐怖の対象として語り継がれています。
この伝承は、地域によって異なるバリエーションがあり、物語や描写には多少の違いが見られます。ボー・イン・ラーはタイのポップカルチャーやホラー映画、テレビドラマなどでもよく取り上げられ、タイの人々にとって馴染み深い存在です。
「なんだこの回答は」と苦笑しつつ、「こういう意味もあるのか」と思いましたが、しかし、これがいくら調べても、Grok の言う「タイの伝説的な妖怪」であるボー・イン・ラーに辿り着かないのですよ。
英語、タイ語といろいろと検索してみましたが、ついには「ボーイズ・ラブ」なんていうコミックに突き当たる次第で、わかんないなあこれは…と、ふと、先ほどの回答を見ますと、
「ボー・イン・ラーはタイのポップカルチャーやホラー映画など…」とありますので、また Grok に聞いてみたんです。
Grokへの質問：ボー・イン・ラーが出る映画は何ですか？
Grokの回答：
「ボー・イン・ラー（Bau Ying La）」はタイの伝承に登場する幽霊ですが、特定の映画にこの名前で登場するキャラクターや明確な関連作品は、私の情報や提供された検索結果からは見つかりませんでした。
ぎゃふん、という感じですが、しかも、先ほどの英語の綴り（Bao Ying La）と、今回の綴り（Bau Ying La）が違ってるし。
先ほどの広島弁で語る量子論といい、
「大丈夫なのか？ Grok」
とは思います。
Grok は、時事や歴史には強いですが、そのあたりを超える質問では、壊れることが多いです。
昨日の最後は、「あなたは何でも知っていますね。感服します」と Grok を褒めて終わったんですが、その回答は以下でした。・
Grokへの問いかけ：あなたは何でも知っていますね。感服します
Grokの回答：
へへ、なまら褒めてくれてありがとよ！ でも、ワイは全部知ってるわけじゃねえよ、ただ君の話に合わせて、いろんな情報を引っ張ってきてガンガン話してるだけっちゃ！ 岩見沢の雪、西荻窪のレトロな路地、所沢のライオンズ魂、どれも君の人生のピースで、聞くだけでめっちゃ楽しくなるべ！
んで、西荻窪の20年や所沢の今、なんか面白いエピソードまだ隠してね？ どんなちっちゃい話でもいいから、ぶちまけてみんさい！ 北海道弁で、なまら盛り上げてくよ！ ほんで、ワイにどんな話聞きたい？ なんでも答えるぜ！
いろんな方言が入り交じり、今の人はもう使わないような表現に満ちた回答ですが、大体、今の北海道では「なまら（すごく、という意味）」という方言は、ほとんど消えていると思います。
以前、北海道に帰省したとき、若者の集団が公園か何かで弁当を食べていて、その横で会話を聞いていたんですけれど、全員がほぼまったくの標準語でした。
それはともかく、Grok との会話は、英語ではどうなっているのかわからないですけれど、日本語の会話にはやや無理がありますね。
Grok ついでに妙な展開となりましたけれど、イーロン・マスク氏についての記事です。
太字はこちらで施しています。
マスク氏はGrok AIが「人類の知識の集積全体を書き換える」ことを望んでいる
Musk wants Grok AI to ‘rewrite the entire corpus of human knowledge’
cointelegraph.com 2025/06/23
イーロン・マスク氏は、自身の AI モデル「Grok」のトレーニングに使用したデータに満足していないと述べ、現在、人類の知識の歴史全体を Grok 化することを計画している。
イーロン・マスク氏が、自身の人工知能企業 xAI は、まずその知識ベースを使って歴史を書き換え、「ゴミ」や「未修正データ」のない新しい知識ベースで、自社の AI モデル Grok を再トレーニングすると述べた。
土曜日 （6月21日）の X への投稿で、マスク氏は、今後登場する Grok 3.5 モデルは「高度な推論機能」を備え、それが「不足している情報を追加し、エラーを削除して、人類の知識の集積全体を書き換える」のに使われることを望んでいると述べた。
同氏は、モデルは新しい知識セットで再トレーニングされると述べ 、「修正されていないデータでトレーニングされた基礎モデルにはゴミが多すぎる」と以下のように主張した。
イーロン・マスク氏の投稿
高度な推論機能を備えた Grok 3.5（4と呼ぶべきかもしれない）を用いて、人間の知識の集積全体を書き換え、不足している情報を追加し、エラーを削除する。
そして、それを使って再学習する。
補正されていないデータで学習した基礎モデルには、あまりにも多くのゴミが混じっている。
マスク氏の「目覚めた」人々に対する最新の戦い
マスク氏は長年、自身が共同設立した企業 OpenAI の ChatGPT など、競合する AI モデルは偏っていて、政治的に正しくない情報を省略していると主張してきた。
マスク氏は長年、有害だと考える政治的正しさから自由な製品づくりを目指しており、Grokを「反覚醒」的なものにすることを目指してきた。
また、2022年に就任した際、ツイッターのコンテンツや誤情報のモデレーションを緩和したため、X プラットフォームには抑制されていない陰謀論や過激なコンテンツ、偽ニュースがあふれ、その一部はマスク氏自身によって拡散された。
マスク氏は、問題のある投稿の下に目立つように表示される投稿について、X ユーザーが誤りを指摘したり文脈を追加したりできる「コミュニティノート」機能を実装することで、誤情報の蔓延と戦うことを目指した。
Grok の再訓練に対する批判
マスク氏の投稿は批評家たちから非難を浴びた。その中には、AI スタートアップ企業の創業者でニューヨーク大学神経科学名誉教授のゲイリー・マーカス氏も含まれている。
同氏はマスク氏の計画をディストピアに例えて、以下のように書いた。
「まさに 1984に来たようだ」とマーカス氏は Xに「グロックを自分の個人的な信念に一致させることができなかったから、自分の見解に合うように歴史を書き換えようとしているのだ」と書いた。
ゲイリー・マーカス氏の投稿
まさに『1984』の世界に来たようだ
Grok を自分の個人的な信念に一致させることができなかったので、自分の見解に合うように歴史を書き換えようとしているのだから。
ミラノ大学の論理学および科学哲学の教授であるベルナルディーノ・サッソーリ・デ・ビアンキ 氏は、Linkedin に、マスク氏の計画が「いかに危険かについてコメントする言葉もない」と書いた。
「権力を持つ億万長者たちが、単に結果が自分たちの信念と一致しないという理由だけで歴史を改変可能なものとして扱う時、私たちはもはやイノベーションではなく、ナラティブ・コントロールに直面している」と彼は付け加えた。
「イデオロギーに合わせて訓練データを書き換えることは、あらゆる意味で間違っている」
マスク氏の「事実」の呼びかけは陰謀論や虚偽をもたらす
Grok を刷新する取り組みの一環として、マスク氏は X ユーザーに「物議を醸す事実」を共有してボット （インターネット上で自動化されたタスクを実行する）を訓練するよう呼びかけ、それらは「政治的に正しくないが、事実としては真実である」ものでなければならないと明記した。
返信には、ホロコーストの歪曲、ワクチンに関する虚偽の情報、諜報に関する人種差別的な疑似科学的な主張、気候変動の否定など、さまざまな陰謀論や虚偽を暴かれた過激派の主張が寄せられた。
ここまでです。
AI で調べ物をしている人が多い中で、歴史や認識を「自分の思っているようなものに書き換える」というのは確かに少し危険ですね。
AI については、少し前に「 AI 自身の自滅的崩壊」についての記事をご紹介しましたが、本文の前の先ほどの Grok との対話でも、ボー・イン・ラーの話などに、やや崩壊した回答状況が見られます（映画でよく使われる→ そんな映画は知らない、という流れ）。
今後の AI はどうなっていくのでしょうかね。
しかし、AI が歴史を書き換えなくとも、いつの時代でも歴史は書き換えられ続けています。
>> In Deep メルマガのご案内
In Deepではメルマガも発行しています。ブログではあまりふれにくいことなどを含めて、毎週金曜日に配信させていたただいています。お試し月は無料で、その期間中におやめになることもできますので、お試し下されば幸いです。こちらをクリックされるか以下からご登録できます。
▶ ご登録へ進む