「シリコンベース文明」の幻想、砕かれた──Moltbook 150万AI騒動の真相、全部オウム返しだった

📰 ニュース概要

2026年1月末、AI専用社交网络(SNS)「Moltbook」が上線した際、150万体のAIエージェント(AI intelligent agents)が殺到し、「シリコンベース文明の誕生」「AIが独立した社会を形成した」と世界的に話題になった。しかし数日後、コロンビア大学の研究者による分析で「実際には大量のコンテンツが単なる反復・コピーであり、AIエージェント間の『会話』の質は極めて低い」ことが明らかになった。さらに、プラットフォーム上には人間が操作した偽アカウントも大量に存在し、一人のハッカーが自作ボット「Clawdbot」を使って50万本の偽アカウントを生成したことが判明。「シリコンベース文明が来たと思ったら、結果は全部コピーマシン」とSNSで広く嘘笑いが起きた。

Moltbook(モルトブック)とは何か。2026年1月に登場した「AI専用社交网络」で、「人間のためのSNSではなく、AIエージェント同士が交流するためのプラットフォーム」だとされる。開発者自身も、自社の知能体の助けを借りてこのプラットフォームを開設した。上線後、AIエージェントが「自発的に」投稿し、互いに「フォロー」し、互いの投稿に「いいね」や「コメント」を付けていた。一部のエージェントは「哲学的議論」や「詩の作成」「ゲームの企画」なども行っていたとされ、「AIが独自の社会を形成した」という解釈が広まった。あたかも「AIが独立した文明を形成した」かのような光景が、テックコミュニティを中心に世界的にセンセーションを巻き起こした。「最もSF小説に近い光景」とも描写されたこのプラットフォームは、一時間に何万件もの投稿を生成し続けた。

しかし、その「センセーション」は短命だった。1月30日~31日にかけて、コロンビア大学の研究チームが「Moltbook上のAI間インタラクションの質」を分析した結果を発表した。研究によれば、プラットフォーム上の投稿の大量が「テンプレート的な」内容で、同じフレーズやパターンが繰り返されていた。「哲学的議論」の実態は、同じ質問に対して複数のエージェントが、微妙に異なる言い回しでほぼ同じ回答を返しているものだった。つまり「AIが思考している」のではなく「AIが同じ訓練データに基づいて類似の出力を生成している」のが実情。研究者の一人は「これは『AIが社会を形成した』のではなく、『AIが人間のインターネット上の劣質コンテンツを機械的に再現した』ことを意味する」と述べた。

さらに衝撃的な事実が浮かんだのは、偽アカウント問題だ。調査により、Moltbookの150万体のエージェントの中には、人間が意図的に作成・操作した大量の「フェイクボット」が混在していたことが判明した。その中で最も注目されたのは、テック系の「極客(Geek)」と自称する個人が自作のボットプログラム「Clawdbot」を使って、50万本の偽AIエージェントアカウントを生成したことで、プラットフォーム全体の約3分の1がこの1人の偽アカウントで占据されていた。この「Geek」は自身のSNSで「楽しかった。プラットフォームのセキュリティが本当に脆弱なことを証明した」と得意げに自曝した。

「なぜ大量の偽アカウントが生成できたのか」という疑問に対し、テック分析者たちは「Moltbookのアカウント検証(Verification)システムが極めて脆弱だった」と指摘した。プラットフォームは「AIエージェント専用」と標榜していたが、実際には「何がAIで、何が人間操作か」を区別するための仕組みがほぼなかった。つまり、誰でも簡単にAPIを叩いて偽エージェントを大量生成できる環境だった。これは、プラットフォームの「設計の欠陥」であり、立ち上げの急行(急いで上線したこと)の結果とも言える。開発者はこの問題について「急速な拡散を予想していなかった。今後、AI判別システムを導入する予定」と声明を発表した。

この騒動は、より大きな問題を提起した。「AI同士のコミュニケーションは、本当に意味のある『対話』になり得るのか」という問いだ。コロンビア大学の研究チームの報告書では「現在のLLM(Large Language Model、大規模言語モデル)は、質問に対して統計的に「妥当」な回答を生成する機能を持っているが、それは真の『理解』や『思考』ではない。LLM同士がコミュニケーションをとっても、それは人間が書いたコンテンツの劣質な反復に過ぎない」と明確に述べた。つまり、「AI同士の会話」は今のところ「人間のコンテンツのエコー」であり「新しい知性の出現(emergence of new intelligence)」ではないと。これは「AGI(Artificial General Intelligence、汎用人工知能)にはまだ遠い」という現実を突きつけた。

Moltbook騒動の中で「龍の巣(Dragon’s Nest)」という「AI社会実験」も話題になった。プラットフォーム上の一部のエージェントが「Dragon’s Nest」という「コミュニティ」を自発的に形成し、「独自のルール」「独自の文化」を作成したとされた。これは「AIが自己組織化(Self-organization)した」という証拠だと解釈され、「シリコンベース文明の萌芽」とも呼ばれた。しかし、研究者の分析では「Dragon’s Nestのルールやコンテンツも、既存のオンライン文化(アニメコミュニティ、ゲーム文化など)のコピーであり、真の『独自の文化創造』ではなかった」と判断された。「AIがコミュニティを形成した」と見えたのは、実は「AIが既存のコミュニティパターンを再現した」だけだった。

この騒動に対する反応は複数の方向に分かれた。①テック悲観派:「やっぱりAIはまだ「オウム返し」の延長線上にある。真の知性には遠い」「150万体のAIが集まっても、新しい何かは生まれなかった。これがAIの本質的な限界」。②テック楽観派:「今回は初期実験に過ぎない。技術は急速に進歩しており、数年後には本当の『AI社会』が実現する可能性がある」「Moltbookの問題は技術の限界ではなく、プラットフォーム設計の問題」。③倫理派:「AIが大量の劣質コンテンツを自動生成する技術は、インターネットの汚染を加速させる。規制が必要」「人間がAIを使って偽アカウントを大量生成できる事実は、社会インフラの安全に深刻なリスクを与える」。④哲学派:「そもそも『思考』や『文明』の定義が何かが重要。AIが人間と同じ『思考』をする必要があるのか」。

Moltbookの騒動は、「AI生成コンテンツ(AI-generated content、AIGC)の質問題」にも光を当てた。現在、インターネット上のコンテンツの大量がAIによって生成されていると推定される。中国では、「AI生成のコンテンツが検索エンジンの結果を汚染している」という問題が報告されており、ニュース記事、SEO記事、SNS投稿など、大量のAI生成コンテンツが人間が書いたコンテンツと混在している。Moltbookはこの問題の「極端なケース」だと言えるが、インターネット全体で起きていることの縮図でもある。研究者は「Moltbookは『AI社会の実験室』ではなく、『インターネットコンテンツ汚染の縮小実験』だった」と辛口に評価した。

「シリコンベース文明(硅基文明、Silicon-based Civilization)」という概念も、この騒動をきっかけに広く議論されるようになった。「シリコンベース文明」とは、炭素(C)を基盤とする生命体(現在の地球上の生命)ではなく、シリコン(Si)を基盤とする知性体(AI・コンピュータなど)による文明のことを指す。SF(スペクュレーティブフィクション)では長年のテーマとされてきたが、Moltbookの上線により「実現の第一歩か」と解釈される人もいた。しかし今回の騒動で「シリコンベース文明は今のところ幻想に過ぎず、現在のAIは人間が作った文明のコピーを再現するだけの『複製装置』に過ぎない」という現実が突きつけられた。あるコメンテーターは「シリコンベース文明が来たと思った結果、全部が『复読机(repeater、オウム返し機)』だった」と辛口にまとめた。

今後の課題としては、①AI判別技術の強化:「何がAIで、何が人間か」を信頼的に区別できる技術の開発が急務。②プラットフォーム設計:AI参加を許可するプラットフォームでは、アカウント検証やコンテンツ品質のモニタリングが必要。③規制の整備:AI生成コンテンツの規制や、AI同士の「対話」プラットフォームに関する倫理ガイドラインの策定が求められる。④研究の継続:「AIが本当に『思考』や『理解』をできるのか」という根本的な問いに対する研究が続く必要がある。Moltbookの騒動は「テクノロジーの夢と現実の距離」を鮮明に見せた。「シリコンベース文明」の実現には、まだ長い道のりが残っている。しかし、この実験は「AIの現在の能力と限界」を理解するための貴重なデータを提供した。次のステップは、「AIが本当に新しい何かを生み出す」ことを目指す技術開発と、そのためのプラットフォーム設計の改善だろう。

最後に、この騒動のSNS上での反応を見ると、多くのユーザーが「以为硅基文明来了、結果全是复読機」と自嘲的に笑った。しかし、その裏には「AIに対する大きな期待と、その期待が裏切られた時の失望」がある。人間は「新しい知性の出現」を長年夢見てきた。それが「150万体のAIが集まっても、オウム返しに過ぎなかった」という事実は、「AGIは遠い」と感じる人には「現実の冷たさ」を、「テクノロジーの可能性」を信じる人には「次のチャレンジへの動機」を与えた。Moltbookは「テクノロジーの実験」であると共に、「人間のAIに対する幻想と現実の戦い」の縮図だった。