第2話 AIは「知ってる」んじゃなくて「それっぽく作ってる」

AIは なんでも 知っているように 見えます。でも、本当に「知っている」のでしょうか。
この回は AIが答えを作るしくみの話です。
読み終わると、AIがまちがえる理由が 説明できるようになります。

AIが文を作るしくみを まんがで読む（全3ページ）

📖まんがは右上のコマから左へ読みます。

Geminiパスポートに AIが文を作るしくみの ページは ありません

この回は Geminiパスポートに対応するページがありません。シリーズの流れを補うために 用意した回です。

Geminiパスポートには、この話に まるごと対応するページはありません。ただし p.4「本当かな？ 自分の目で確かめよう！」の中に、生成AIは「次に来る確率が高い言葉」を予想して文章を作っている、という説明があります。この回は そこを もう少しくわしく 見ていきます。（小中学生のための Geminiパスポート(小4〜中3)）

AIが文を作るしくみは、こういうこと

AIは、辞書のように 答えを しまっておいて 取り出しているのでは ありません。「この言葉のつぎには、どの言葉が来そうか」を 何度もくり返して、文を 組み立てています。

だから 知らないことでも 止まりません。それっぽい言葉を つないで、いかにも本当のような文を 作ってしまいます。これを ハルシネーション（もっともらしい嘘）と 言います。

しかも AIは「わたしは まちがえているかも」とは 言いません。正しいときも まちがっているときも、同じように 自信たっぷりに 答えます。ここが いちばん 気をつけるところです。

やってみよう ― たしかめてみる手順

1. AIに 自分の学校や 地元のことなど、ネットにあまり出ていないことを 聞いてみます
2. 出てきた 名前・数字・日づけを メモします
3. 学校の おたより・先生・公式サイトなど AIの外で たしかめます（ちがっていたら、それが「作られた答え」です）

プロンプトの例（そのまま つかってOK）

わたしは小学5年生です。あなたが知らないことを聞かれたとき、
どうやって答えを作っているのか、小学生にも分かる言葉で説明してください。
「知らない」と言えるときは、そう言ってください。

コピーしたら Gemini にはりつけて つかいます。つかう前に おうちの人か 先生に 声をかけてくださいね。

こんなふうに変えてみましょう：「小学5年生」を 自分の学年に／「小学生」を「友だち」に

AIが文を作るしくみを たしかめる ― どっちだ クイズ

つぎの3つのうち、AIが とくに まちがえやすいのは どれでしょう。 理由も 言ってみましょう。

1. 「water」は 日本語で なんという？
2. わたしの学校の 去年の 運動会の 種目は？
3. 三角形の 面積の 求め方は？

AIの答えを つかうとき 気をつけること

• 「知らない」と言わないことが あります。答えが返ってきた＝知っている、では ありません
• 自分や友だちの 名前・住所・学校名は 入力しないようにしましょう
• こわい答え・へんな答えが 出てきたら、そのまま続けないで 画面を閉じて 大人に 見せましょう
• この回は ひとりでも 読めます。じっさいに Geminiを つかうときは、おうちの人や 先生に 聞いてからにしましょう

つぎの話 → 第3話 だからAIはまちがえる