プロンプトと型で出力を固定、検算・安全(ハルシネーション/コスト)

LLMの出力は「そのまま信じない」

LLMは便利ですが、2つの弱点があります。1つはハルシネーション(=もっともらしいウソをつくこと。事実でない内容を自信満々に出す現象)。もう1つはコスト(=使うほどお金がかかること)。この2つに対して、型と検算(=出てきた結果を自分で確かめること)で守るのがプロの作り方です。

出力の形をプロンプトで固定する

LLMに「自由に答えて」と頼むと、返事の形が毎回バラバラになり、プログラムで扱いにくくなります。そこで「必ずこのJSONの形で返して」と指示(プロンプト)で固定します。形を決めておけば、受け取る側も型で受けられます。

// LLMにこの形で返させたい、と先に決めておく
interface Recipe {
  title: string;      // 料理名
  minutes: number;    // 調理時間(分)
  steps: string[];    // 手順
}

// プロンプト側でも同じ形を明示的にお願いする
const instruction =
  "次のJSON形式のみで返答してください。前後に説明文を付けないこと。\n" +
  "{ \"title\": string, \"minutes\": number, \"steps\": string[] }";

検算: 受け取った後に必ず確かめる

「型を付けた」だけでは実は不十分です。TypeScriptの as は「この形のはずだと信じる」だけで、実際の中身は確かめません。だから受け取った直後に、本当にその形か・値が妥当かを自分のコードでチェックします。これが検算です。

const recipe = JSON.parse(text) as Recipe;
// もし minutes が "30分" という文字列で来ても
// as は何もしてくれない。後で計算してバグる

const data = JSON.parse(text);
if (
  typeof data.title !== "string" ||
  typeof data.minutes !== "number" ||
  !Array.isArray(data.steps)
) {
  throw new Error("LLMの出力が期待した形ではありません");
}
const recipe: Recipe = data; // ここまで来たら安心して使える

コストへの備え

LLMは送る文章と受け取る文章の量(トークン)に応じて課金されます。長い入力や無制限の出力は、そのまま料金に響きます。最大出力の上限を決める、無駄に長い入力を送らない、といった歯止めをコードに入れておきます。

• 出力の最大長(max tokens など)を必ず指定して、際限なく生成させない。
• 同じ質問には結果を再利用(キャッシュ)して、毎回LLMを呼ばない。
• ユーザー入力の長さに上限を設け、極端に長い入力を弾く。
• 呼び出し回数やエラーを記録して、異常な増え方に早く気づく。

まとめると、AIプロダクトは「実装はAIに任せ、型で守り、検算で確かめ、説明できる」状態を目指します。プロンプトで出力の形をお願いし、型と検算で本当にその形か確かめ、コストの歯止めを入れる。この3点を押さえれば、LLMの弱点に振り回されずに使えます。