Day 6・AIを動かす
LLM APIの考え方
プロンプト(入力)と応答(出力)、トークンと料金の基本を、実務の視点でつかむ。
LLMは「文章を入れると文章が返る関数」
LLM(Large Language Model、大規模言語モデル。大量の文章で学習したAI)は、むずかしく考えると迷子になります。まずは「文章を入れると文章が返ってくる、巨大な関数」だと思ってください。あなたが入れる文章をプロンプト(prompt、指示や質問のこと)、返ってくる文章を応答(response)と呼びます。
API(Application Programming Interface、プログラムから他のサービスを呼び出す窓口)を使うと、この「関数」をPythonのコードから呼べます。つまり、ChatGPTのような画面を人が操作する代わりに、あなたのプログラムがAIに話しかけて答えを受け取れる、ということです。
あなた(プロンプト): 次の文を1行で要約して。「今日は雨だったが午後から晴れ、気温も上がった。」
AI(応答): 午後から晴れて気温が上がった一日。なぜ「関数」と捉えると良いのか
関数だと思えば、Day 4で学んだ「入力を渡して戻り値を受け取る」感覚がそのまま使えます。AIを特別なものと構えず、文字列を渡して文字列を受け取る部品として扱えるようになると、コードに組み込むのが一気に楽になります。
トークンと料金
LLMは文章を「トークン」という単位に区切って処理します。トークンはだいたい単語や文字のかたまりで、英語なら1単語がおよそ1トークン、日本語は1文字が複数トークンになることもあります。正確な数はモデルや文章によって変わるため、ここでは「文章の長さの目安になる単位」とだけ覚えておけば十分です。
料金はこのトークン数に応じてかかります。多くのAPIは「入力したトークン数」と「出力したトークン数」の合計で課金されます。つまり、長いプロンプトを送ったり、長い応答を出させたりするほど費用が増える、という素直な仕組みです。単価はモデルや時期で変わるので、実際の金額は必ず提供元の料金ページで確認してください(ここでは具体的な数字は出しません)。
- 入力トークン: あなたが送るプロンプトの長さ
- 出力トークン: AIが返す応答の長さ
- 料金: おおむね (入力 + 出力) のトークン数に比例
- 長い文章を丸ごと送ると、その分だけ費用も処理時間も増える
「とりあえず全部送る」は高くつく
巨大なファイルやログを丸ごとプロンプトに貼ると、トークンが膨らんで料金も跳ね上がります。必要な部分だけを渡す、という発想は最初から持っておきましょう。
AIにはこう聞く
「このプロンプトはだいたい何トークンくらい? 料金の考え方を、入力トークンと出力トークンに分けて説明して」と聞くと、仕組みの理解が進みます。金額そのものは変動するので、最終確認は公式の料金ページで、と念押しすると安全です。
AI時代の第一歩として
これからの実務では、AIの呼び出し部分はAIに書いてもらう場面が増えます。だからこそ大事なのは、生成されたコードを「読める・直せる・説明できる」ことです。この章では、細部を暗記するのではなく、AIが返すコードを見て『ここがプロンプト、ここが応答、ここでトークンを消費している』と指させる力を育てます。
読んでも腑に落ちない所は、AIに噛み砕いてもらいましょう。
理解度チェック
答えられれば、面接で説明できる状態に一歩近づきます。
LLM APIにおける「プロンプト」と「応答」の説明として正しいものはどれ?
トークンと料金の関係について、最も適切な説明はどれ?
「LLM APIは文章を入れると文章が返る関数だ」という捉え方が、コードにAIを組み込むうえでなぜ役立つのか、自分の言葉で説明してください。
記述式です。まず自分の言葉で答えを考えてから、模範解答を開いて自己採点してください。