Day 7・AIと組んで作る・直す — バイブコーディング実践

ハルシネーションと検算 — それっぽい嘘を見抜く

AIは自信満々に間違える。事実を自分で確かめる習慣を身につける。

AIは「自信満々に間違える」ことがある

[[hallucinatioclienrequest(ハルシネーション)とは、AIが事実でないことを、さも本当のように自信たっぷりに答えてしまう現象です。悪気があるわけではなく、AIは「それっぽく続く言葉」を選ぶのが得意なので、たまに実在しない関数名や、間違った手順を堂々と書いてしまいます。

たとえるなら

とても物知りで話し上手な友人が、たまに知らないことでも「たしかそうだったよ」と自信満々に答えるのに似ています。9割は正しいから信じたくなる。でも、その1割が混じっているつもりで聞くのが安全です。

自信の強さは正しさの証拠ではない

AIの口調が断定的でも、それは正しさとは無関係です。人間なら「自信なさそう=あやしい」と判断できますが、AIは間違っているときも同じトーンで話します。トーンで信用しないこと。

検算とは、返ってきた答えが本当に正しいかを、別の方法で確かめることです。学校の算数で、割り算の答えを掛け算で確かめたのと同じ発想です。AI時代でいちばん大事な生活習慣と言ってもいいくらいです。

検算しない

AIが書いた「この関数を使えば一発です」を鵜呑みにして本番に入れる。実はその関数は存在せず、後から大量のエラー。原因も分からず時間を溶かす。

検算する

まず小さなサンプルで動かして結果を目で確認。存在しない関数ならすぐエラーで気づけるし、想定と違えば入れる前に直せる。

なぜ基礎があると検算できるのか

これまで学んだ[[variablclienrequest・・[[data-structurclienrequestの基礎があると、「この答え、入力と出力の形が合ってないぞ」と違和感に気づけます。基礎は、AIの答えを採点するための採点基準なのです。丸暗記ではなく、考え方を持っているかが効いてきます。

AIにはこう頼む

「この手順、事実かどうか自信の度合いも添えて」「確かめる方法(テストの仕方)も一緒に教えて」と頼むと、検算の足がかりが手に入ります。ただし最終確認は必ず自分で。

覚えておきたいのは、疑うことは失礼ではないということ。AIは疑われても傷つきません。むしろ「確かめる前提で使う」のが、AIと長く上手に付き合うコツです。

読んでも腑に落ちない所は、AIに噛み砕いてもらいましょう。

答えられれば、面接で説明できる状態に一歩近づきます。

ハルシネーションの説明として最も適切なのはどれ?

検算の具体例として不適切なのはどれ?

なぜ「基礎知識があるとAIの答えを検算しやすい」のか、あなたの言葉で説明してください。

記述式です。まず自分の言葉で答えを考えてから、模範解答を開いて自己採点してください。