妄想とハルシネーション
人の心も、AIも、「それらしさ」の罠に落ちる
AIリテラシー×禅
仏教×ファクトチェック
「ハルシネーション」。AIが自信満々に、もっともらしい嘘をつく。そんな言葉が日常に入ってきた頃、私はふと古い言葉を思い出した。
仏教でいう妄想(もうぞう)。これは現代語の「妄想」とは少し違う。事実とかけ離れた空想のことではなく、「あるがままに見えていない状態」のことだ。欲や怒り、思い込みによって、目の前の現実が歪んで見えてしまう──それが妄想の本義である。
AIのハルシネーションと、人間の妄想。構造として、実は非常によく似ている。そしてその似ている部分を知ることが、AI時代のリテラシーへの入口になると私は思っている。
見えているものを信じるな。
見えていないものを恐れるな。
ただ、今ここに問いなさい。── 禅語の精神より
お坊さんが「嘘」と向き合ってきた歴史
仏教には、二千五百年以上の歴史の中で積み上げてきた「認識論」がある。人はどのように物事を知覚し、どこで誤るか──この問いに、インドの唯識(ゆいしき)哲学から禅の公案まで、数多の僧侶たちが挑んできた。
その中心にある考え方が、欲望(貪・とん)、怒り(瞋・しん)、そして無知(癡・ち)
──これらのフィルターを通して、世界は「解釈」される。
つまり、人間はデフォルトで「バイアスをかけて世界を見ている」存在なのだ。それを知った上で、どう生きるか。それが仏道の根本問題でもある。
ハルシネーションと妄想 ─ 構造の類似
AIのハルシネーションとは、大量のテキストデータを学習した言語モデルが、「文脈的に自然に見える言葉の続き」を生成するとき、事実と異なる内容を自信をもって出力してしまう現象だ。
これは、「悪意」でも「欠陥」でもない。ただ、AIにとって「それが一番それらしく見えた」だけなのだ。
仏教の妄想も、構造が同じである。人は悪意をもって嘘をつくとき以外にも、欲望や不安、思い込みによって「それらしい解釈」を無意識に選ぶ。自分の怒りを正当化するために「あの人は悪い人だ」という解釈を選ぶ。不安から「きっとうまくいかない」という予測を事実のように扱う。
AIのハルシネーション
学習データのパターンから「最も確率の高い続き」を選ぶ。事実確認の機能は持たない。「それらしさ」と「正しさ」は別物。
人間の妄想(もうぞう)
過去の経験と感情フィルターを通して「最もしっくりくる解釈」を選ぶ。欲・怒り・無知が歪みを生む。「納得感」と「真実」は別物。
どちらも、「自分(あるいはAI)にとってのリアル」と「実際の事実」の間にズレが生じている状態だ。そして恐ろしいのは、そのズレが本人(あるいはAI)には見えにくいという点である。
お坊さんのファクトチェック法
仏教の修行の中に、「内観」という実践がある。
瞑想などで知られるこの実践の核心は、「思い込みに気づくこと」だ。ただ観る。
これが、妄想を解くための古典的な方法論である。
実は、これはそのままAIの出力に向き合う姿勢にも応用できる。お坊さん流のファクトチェックを、現代的に整理してみよう。
一「止(し)」─ まず立ち止まる
禅語に「止観(しかん)」という言葉がある。まず「止まる」こと。AIの答えを受け取ったとき、すぐに使う前に一呼吸おく。「これは本当か?」という問いを持つだけで、認識の質は変わる。
二「観(かん)」─ 違和感を無視しない
仏教では「直観(じきかん)」を重視する。何か引っかかる、何かおかしい。その感覚は、妄想を見抜く力の萌芽だ。AIの答えに違和感を感じたとき、それは「確かめなさい」というサインである。
三「問(もん)」─ 根拠を問う
禅問答は、「なぜ」を問い続けることで真実に迫る実践だ。AIに対しても同じことができる。「それはどこの情報ですか?」「その根拠は何ですか?」と問い返すことで、ハルシネーションの多くは自然に露わになる。
四「検(けん)」─ 一次情報に当たる
仏教の師は弟子に言う。「私の言葉を信じるな。自ら確かめよ」と。これはブッダ自身の言葉(カーラーマ経)にも通じる教えだ。重要な情報は、公的機関や論文など一次情報で確認する。AIは始まりであって、終わりではない。
五「捨(しゃ)」─ 執着を手放す
最も難しいのが、「信じたいものを信じてしまう」という人間の性だ。都合のよい情報を無批判に採用する確証バイアスは、妄想の温床でもある。AIが「自分の希望通りの答え」を出してきたときこそ、最も疑う姿勢が必要だ。
AIも人間も「道を歩いている」
仏教では、悟りとは「完璧な状態に到達すること」ではなく、「今ここに、あるがままに向き合い続けること」だという。妄想が完全になくなることは、人間には難しい。だが、「妄想が起きていること」に気づく力は、修行で育てることができる。
AIも同じだ。ハルシネーションがゼロになることは、現時点では難しい。だがそのことを知り、問い続ける姿勢を持つことで、AIとの関係は根本的に変わる。
情報を受け取ったとき、「これは本当か」と一度立ち止まること。これは批判ではなく、「丁寧に向き合う」ということです。お茶を飲む前に一息つくように、情報の前にも一息ついてみてください。それだけで、世界の見え方が変わります。
禅の精神を現代に応用して
AIリテラシーとは、AIを疑うことではない。
AIと「丁寧に向き合うこと」だ。
自分自身の妄想に気づく修行と、実は構造として同じ道を歩いている。
問い続ける姿勢。違和感を大切にする感覚。
一次情報に当たる習慣。そしてなによりも、
「自分が信じたいものを信じていないか」と問う謙虚さ。
エコーチェンバーともいうらしい。
それは、AIの時代だから必要になった能力ではない。
人間が、ずっと昔から持つべきだとされてきた力だ。
ただ今、疑問を持ち、確かめる力が必要なことが問われている。
