 |
目 次 |
|||
| １ | ＩＴには強いという自信が砕け散る | ||
| ２ | 記事：ＡＩがナラティブの競争加速 | ||
| ３ | ＡＩのGoogle Gemini に聞いて理解 | ||
| ４ | ＡＩが作り出すそれらしき物語とは | ||
|
１．ＩＴには強いという自信が砕け散る 私自身は、パソコンを始めたのは平成元年だから、もう３７年間もこの趣味を続けているし、その間、最新の情報化社会を常にウォッチし続けてきた。だから、自分ではＩＴには強いと、かねてから自負している。 ところが、最近のＡＩを取り巻く環境の変化のスピードは、日進月歩どころか、まるで秒進分歩の如くで、幾何級数的に進みつつある。そういう中で、さしもの私自身も、何が書かれているのか、さっぱり分からない新聞記事が出てきた。例えば、今日の日経新聞に、「ＡＩがナラティブの競争加速」と題して、こんな記事が載っていた。
「人の感情や価値観に訴えかけるコンテンツが生成ＡＩ（人工知能）によって大量・安価に作られるようになり、ＳＮＳでは人々が真実らしいと感じる物語が広がりやすくなっている。 自身の認識が、どのようなナラティブ（物語）の枠組みに支えられているかを問い直す局面に入っている。 ４月、米アンソロピックの最新ＡＩ『Claude Mythos（クロード・ミュトス）』が、システム脆弱性を高精度で発見できるとの評価が広がり、大きな関心を呼んだ。 同社は限定公開の方針を打ち出し、大手ＩＴ企業などと連携したセキュリティー強化プロジェクトを始動した。９日には安全性を高めたミュトス級モデルを一般公開していた。 一方、専門家の間ではミュトスの実際の性能以上に『突出した能力を持つＡＩ』というイメージが先行したとの見方も根強い。スウェーデンの著名なプログラマーであるダニエル・ステンバーグ氏は５月に自身のブログで、アンソロピックの動きについて『驚くほど成功したマーケティング戦略だ』と評した。 同氏が開発を主導する通信ライブラリー『curl』をミュトスで分析したところ、既存ＡＩを大きく上回る性能は確認できなかったという。また、米オープンＡＩからより高性能とされるＡＩも発表されたが、ミュトスほど話題にならなかった。 実際の性能評価とは別に、アンソロピックが世界のＡＩ開発をリードしているという物語が広がったことは確かだ。 コミュニケーション学者のウォルター・フィッシャーは、人間は単なる合理的存在ではなく、物語を通じて世界を理解する存在だとする『ナラティブ・パラダイム』を唱えた。人は、筋が通っていて、自らの価値観や経験と合致する物語を受け入れやすい。ナラティブは人間の感情にも強く働きかける。 また、ファクトチェックの対象になりにくいのも特徴だ。 ナラティブ拡散の役割を強めているのがＳＮＳだ。２０２４年の米大統領選ごろからは、生成ＡＩを使った政治ミーム動画が急増した。 今回の米国・イスラエルとイランの軍事衝突でも、親イラン系とみられるＳＮＳアカウントがトランプ米大統領の風刺動画を拡散している。 ナラティブは政策誘導や世論形成、企業マーケティングの有力な手段となる一方、強い物語に認識が引き寄せられることで、多面的な見方や自由な発想が阻害される面もある。 今回のミュトスをめぐる一連の反応も、日本企業のセキュリティー対応を促した半面、『日本は米中のＡＩ競争には付いていけない』という新たな『デジタル敗戦神話』を生んだ感がある。 生成ＡＩとＳＮＳが結びついた時代。重要なのは情報の真偽だけではない。世の言説が、どのようなナラティブに沿って形成されているのかにも注意を払う必要がある。」
私は、普段ならこんな記事は、斜め読みするだけで要旨はつかめるのに、この場合は３回読んでも、まだ理解できない。だいたい、「ナラティブ：narrative」という言葉も、聞き慣れない。よし、このような時は、毒（？）をもって毒を制するほかないと思い、ＡＩのGoogle Gemini に聞いてみた。すると、その答えは、このようなものだった。 「『ＡＩがナラティブ（物語・文脈）を駆使し、認識を操る』という言葉は、ＡＩが単に事実やデータを提示するだけでなく、『人間が世界を理解するためのストーリー（枠組み）』を巧みに構築することで、人々の考え方や価値観、世論を特定の方向へ誘導するという意味を持っています。 単なる『嘘（フェイクニュース）』の拡散とは異なり、より洗練された心理的・社会的なアプローチを指します。 具体的にどのようなメカニズムでこれが起こるのか、いくつかの局面に分けて解説します。 （１）ナラティブ（物語）が持つ力 人間は、バラバラの事実（データ）をそのまま受け取るのが苦手な生き物です。代わりに、『原因があって結果がある』『善と悪がある』『過去から未来へ続く流れがある』といったストーリー（物語＝ナラティブ）に落とし込むことで、物事を理解します。 事実（データ）： 『ある地域の失業率が2%上がった』 ナラティブ： 『真面目に働く市民の雇用が、特定の政策（あるいは他国）によって奪われた（＝被害者と加害者の物語）』 人間は、一度この「物語の枠組み（フレーム）」を受け入れてしまうと、それ以降のニュースや出来事もすべてその物語に沿って解釈するようになります。 （２）ＡＩがこれをどう「駆使」するのか 従来のプロパガンダ（政治宣伝）もナラティブを利用していましたが、ＡＩ（特に大規模言語モデルや生成ＡＩ）の登場によって、その規模と精度が爆発的に進化しました。 超大量のバリエーション生成： 一つの狙った結末（例：特定の政策への支持や反対）に向けて、ターゲットの年齢、関心、地域、口調に合わせた何千通りもの「共感を呼ぶストーリー」を瞬時に作成できます。 個人の認知の隙（バイアス）を突く： ＳＮＳなどの行動データと組み合わせることで、「この人はどういう物語に感動しやすいか」「どんな不安を抱えているか」を分析し、その人の認識の弱点に最適化されたナラティブを届けることができます（マイクロターゲット）。 もっともらしさ（リアリティ）の演出： 客観的な論文風、感情的なエッセイ風、あるいは現実に起きたニュースの切り抜き風など、ＡＩはあらゆる文体を模倣できるため、受け手はそれが『作られた物語』であると気づきにくくなります。 （３）「認識を操る（認知戦）」の具体例 ＡＩによるナラティブの操作は、主に以下のような形で社会に影響を与えます。 ① 歴史や事実の再解釈（フレーミング） ある歴史的出来事や社会問題を説明する際、ＡＩに特定の立場（ナラティブ）を学習させておくと、ユーザーが質問したときに『その立場から見たもっともらしいストーリー』だけを回答するようになります。ユーザーは客観的な事実を知ったつもりでも、実際には特定の偏った眼鏡（フレーム）をかけさせられている状態になります。 ② 敵と味方の二項対立の増幅 政治や国際関係において、『私たちは被害者であり、あちらは邪悪な加害者である』というナラティブを大量に生成・拡散することで、社会の分断を深め、人々の対立感情をコントロールします。 ③ 『現状維持』や『あきらめ』の刷り込み 『何をしても無駄である』『現行のシステムが最も安全である』といったトーンの物語を日常的に ＡＩ アシスタントやＳＮＳ上のＡＩアカウント（ボット）が発信し続けることで、大衆の批判精神を奪い、現状を受け入れさせるような世論形成（合意形成）が可能になります。 まとめ 『ＡＩがナラティブを駆使し、認識を操る』とは、『ＡＩが人間の「物語に共感しやすい』という心理的性質をハッキングし、事実の伝え方や文脈をコントロールすることで、人々が気づかないうちにその価値観や世界観を書き換えていく現象』を指しています。 これは、明らかな嘘を見抜くことよりもはるかに難しく、現代の情報社会（あるいは『認知戦』と呼ばれる領域）において極めて重要な課題とされています。」 ４．ＡＩが作り出すそれらしき物語とは なるほど、実に良く理解できた。先ほど引用した日経新聞の記事も、こういう風に書くべきだったのだろう。だとしたら、そもそもこの記事の原タイトルがいけない。「ＡＩがナラティブの競争加速」では、何が何だかわからないではないか。私なら、「ＡＩが作り出すそれらしき物語」とでもするところだ。 それにしても、ＡＩが容易に世論操作もできるようになったというのは、本当に恐ろしい時代になったものだと思う。私はかつて、「ＡＩ三原則」なるものを月刊誌「法の支配』第197号（2020年4月号）で提唱したことがあるが、昨今のＡＩの急速な進化を踏まえると、ますますそうした規範が必要となったのではないかと考えている。 【関連記事】
（令和８年６月１４日著） （お願い 著作権法の観点から無断での転載や引用はご遠慮ください。） |
