「感動的な物語」や「共感できるストーリー」は、人々の心を豊かにする素晴らしいものだと私たちは信じています。しかし、もしその「物語」が、あなたの心を内側から操るための「兵器」として設計されていたとしたらどうでしょうか？
今回は、ジョナサン・ゴットシャルの著書『ストーリーが世界を滅ぼす』の中で紹介されている、米国防総省が構想した恐るべきテクノロジー「ストーリーネット（STORYNET）」について解説します。
AI技術が急激に進化する現代において、これは決してSF映画の中だけの話ではありません。
山脇 弘成（SSAITS代表）
PMP®有資格者・Webプロジェクトマネージャー。
大手メディアや官公庁のWebプロジェクト実績多数。
「技術」だけでなく「対話」を重視し、御社の「ほんとは、こうしたかった」を形にします。
物語は「兵器」になる――DARPAが企てた秘密プロジェクト「ストーリーネット」
ターミネーターの「スカイネット」から名付けられた人工知能
今から10年近く前、米国国防総省（ペンタゴン）はある悩みを抱えていました。アルカイダなどの敵対勢力がインターネット上で展開する「ナラティブ（物語）戦争」において、アメリカ軍は彼らの巧みなストーリーテリングに苦戦を強いられていたのです。
事態を重く見たペンタゴンの要請を受け、最新の軍事技術を研究する米国国防高等研究計画局（DARPA）は、物語の分析と応用に関するカンファレンスを開催します。
そこで構想されたのが、物語を科学的に分析し、自軍の戦力を増幅させるための究極のテクノロジーシステム「ストーリーネット（STORYNET）」でした。
この名前は、皮肉なことに映画『ターミネーター』に登場し人類を滅亡に追いやるAI「スカイネット」を意識して名付けられています。
なぜ軍が「ストーリーテリング」に巨額の資金を投じるのか？
「たかが作り話に、なぜ軍が巨額の予算を？」と思うかもしれません。しかし、現代の戦争は物理的な破壊（ミサイルや戦車）だけではなく、「どちらの物語が人々の心を支配するか」というナラティブの主導権争いにシフトしています。
物語は、フォース（理力）のように現実世界を動かし、人々の行動を変える強力なエネルギーを持っています。軍はこれを単なる芸術や文化としてではなく、客観的に分析し、精密に制御できる「テクノロジー（兵器）」として利用しようと試みたのです。
従来のプロパガンダと「ストーリーネット」の決定的な違い
しかし、国が物語を使って国民を誘導する「プロパガンダ」は、昔から存在していました。では、ストーリーネットは何が新しく、何が恐ろしいのでしょうか。
かつてのプロパガンダ：全員に向けた「画一的なビラ」
従来の戦争プロパガンダは、ラジオ放送や飛行機から撒かれるチラシ（リーフレット）のように、不特定多数（万人）に向けて同じ内容を一方的にぶつけるものでした。
これは例えるなら「ワンサイズ・フィッツ・オール（誰にでも合う既製品の服）」です。刺さる人には刺さりますが、多くの人にとっては自分事になりにくく、反発を招くこともありました。
ストーリーネット：あなただけに仕立てられた「オーダーメイドの物語」
それに対してストーリーネットが目指したのは、受け手一人ひとりのパーソナリティ（固定的な性格や特徴）や、その瞬間の感情・気分（変わりやすい心理状態）をリアルタイムに読み取り、瞬時に物語を最適化する技術です。
「今のあなたの脳に最も深く突き刺さるようにパーソナライズされた物語」を生成する技術であり、著者はこれを「オーダーメイドのスーツのような物語」と表現しています。既製品とは違い、あなたの心の隙間にぴったりとフィットしてしまうのです。
デジタル監視社会（パノプティコン）との融合がもたらす悪夢
DARPAの構想したストーリーネットは、かつては技術的な限界がありました。しかし現在、私たちの日常環境は、このシステムを完成させるのに十分すぎるほど整ってしまっています。
あなたのスマートフォンが、あなたの「弱点」を読み取る
私たちが何気なく見ているSNS、YouTube、Netflix、Googleの検索履歴などのデジタル・プラットフォーム（現代のパノプティコン＝全展望監視システム）は、すでに私たちの好み、思想、さらには心拍数や瞳孔の開きといった生理反応まで追跡・分析しようとしています。
ストーリーネットの技術がこれらのアルゴリズムと結びついた時、AIは「今、少し落ち込んでいるこの瞬間のあなたを、最もなびかせやすいストーリー」を自動生成し、タイムラインに自然に表示させることが可能になります。
知的防御の完全な無効化
このシステムの最も恐ろしい点は、「知的防御が完全に無効化される」ことです。
人間は、素晴らしい物語に没入しているとき、批判的思考（知的防御のバリア）が極端に低下します。「これは自分を操ろうとする罠だ」と疑うことを忘れてしまうのです。
自分専用にカスタマイズされた完璧な物語は、いわば「トロイの木馬」です。私たちはそれが誘導であることすら気づかずに、感動の涙を流しながら、自ら進んで内側からマインドコントロールされてしまう危険性を孕んでいます。
まとめ：私たちは「物語」とどう向き合うべきか
「ストーリーネット」が示す未来は、マーケティングやコンテンツ制作の究極の理想形であると同時に、恐るべきディストピアでもあります。
今後、AIによって「自分にとって心地よすぎる物語」が無限に供給される時代において、私たちはどう身を守ればよいのでしょうか。
まずは、「物語には人を操る強烈な力がある」という事実を自覚すること。そして、あまりにも自分の感情にフィットしすぎる情報に出会ったときこそ、「これは誰が、何の目的で私に見せているストーリーなのか？」と、一歩立ち止まって考える知的防御の盾を持ち続けることが求められています。
参考
- ジョナサン・ゴットシャル（著）、月谷真紀（訳）『ストーリーが世界を滅ぼす――物語があなたの脳を操作する』東洋経済新報社、2022年