第3話 だからAIはまちがえる

AIは まちがえます。でも その まちがい方には 決まった形が あります。
この回は ハルシネーションと バイアスという 2つの まちがいの話です。
読み終わると、AIの答えを見て「これはどっちのまちがいかな」と考えられるようになります。

AIのまちがいを まんがで読む（全3ページ）

📖まんがは右上のコマから左へ読みます。

Geminiパスポートに AIのまちがいの ページは ありません

この回は Geminiパスポートに対応するページがありません。シリーズの流れを補うために 用意した回です。

Geminiパスポートには、この話に まるごと対応するページはありません。ただし p.4「本当かな？ 自分の目で確かめよう！」の中に、2つのまちがいが 名前つきで 説明されています。ハルシネーション（もっともらしい嘘）は「事実ではないことを、本当のことのように言ってしまうこと」、バイアス（かたより）は「かたよった考え方をしてしまうこと」です。この回は その2つを まんがの場面で 見分けられるように します。（小中学生のための Geminiパスポート(小4〜中3)）

AIのまちがいは、こういうこと

ハルシネーションは、ない ことを あるように 言ってしまうまちがいです。前の回で出てきた「学校にない行事の名前」が これに あたります。AIは 知らないところでも 止まらずに、それっぽい言葉を つないで しまうからです。

バイアスは、考えが かたよるまちがいです。「休み時間の遊び」と 聞いたときに、外で走る遊びばかりが 出てきて、本を読む・絵をかくといった 遊びが 出てこない。これが かたよりです。AIが 学んだ文章の 多いほうへ 引っぱられるために 起こります。

やっかいなのは、どちらも 自信たっぷりに 出てくることです。「たぶん」「わかりません」とは 言ってくれません。だから まちがいの形を 先に 知っておくことが、気づくための 近道になります。

やってみよう ― 2つのまちがいを 見分ける手順

1. 答えの中の 名前・数字・日づけを さがします。ここは ハルシネーションが 出やすいところです
2. 答えが 一方向にかたよっていないかを 見ます。反対の立場や ちがうタイプの例が 入っていなければ バイアスを うたがいます
3. 気になったところは 教科書・本・公式サイトで たしかめます（たしかめ方は つぎの回で くわしく やります）

プロンプトの例（そのまま つかってOK）

わたしは小学5年生です。「休み時間の遊び」を10個あげてください。
そのあと、あげた10個にかたよりがないか、あなた自身で確かめて教えてください。

コピーしたら Gemini にはりつけて つかいます。つかう前に おうちの人か 先生に 声をかけてくださいね。

こんなふうに変えてみましょう：「休み時間の遊び」を「係の仕事」や「将来の仕事」に／「10個」を「5個」に

AIのまちがいを たしかめる ― どっちだ クイズ

つぎの3つは AIの答えです。ハルシネーションは どれでしょう。 理由も 言ってみましょう。

1. 「この学校では 毎年 5月に 星空観察会が あります」（そんな行事は ありません）
2. 「プログラマーの人は みんな 男の人です」
3. 「水は 100度で ふっとうします」

AIの答えを つかうとき 気をつけること

• AIは 「わかりません」と 言わないことが あります。自信たっぷりでも まちがいは まちがいです
• 名前・住所・学校名は 入力しないようにしましょう。かたよりの話でも 個人のことは 出しません
• こわい答え・へんな答えが 出てきたら、そのまま続けないで 画面を閉じて 大人に 見せましょう
• この回は ひとりでも 読めます。じっさいに Geminiを つかうときは、おうちの人や 先生に 聞いてからにしましょう