新世代toi-time　第14回テーマ「生成AIとどう向き合うべきか」
問い「ハルシネーション(生成AIによる誤情報の出力)にどのように対応すればよいか」

コラム執筆者

7月３日に公開された「ベネッセ解説」（VIEW next編集部　河野  仙一さん執筆）に以下の問題が提起されてました。

河野さん「生成AIは情報を瞬時に提示できる。しかし、その内容が正しいとは限らない。利便性が高まるほど、情報の真偽を確かめる責任は利用者側に委ねられる。効率化を期待して導入したはずのツールが、新たな確認作業を生み出しているという現実もある。」

このコラムでは、ハルシネーション(AIによる誤情報の出力)のリスクを実感した私自身の経験と、それを踏まえた授業の実践についてご紹介します。
先日、生徒たちにハルシネーションを例示するため、スクリーンに私のパソコン画面を映し、いくつかの生成AIに「對馬光揮とは何者？」と質問してみました。
「分かりません」と答えるものもあれば、「サッカー選手」や「ゲームプログラマー」といった誤情報も出力されました。一方で、何回かに一回は、私の勤務校や授業実践が正確に示されることもありました。(正しい情報が出力された時には、生徒から拍手が起こりました)
正確な出力の中に、本企画「新世代toi-time」に関する記述があったので、職員室に戻った私は、興味本位で「新世代toi-timeの對馬先生のコラムを教えて」と生成AIに質問してみました。
すると、「競争の是非」や「問いのつくり方」など実際に私が執筆したテーマに混じって、「その『対話』は、誰のためのものか？」という身に覚えのないタイトルが出力されました。
そこで、「対話のコラム、どんな内容？」と質問してみると、生成AIは次のような概要を示しました。

1. 「誘導」という名の罠
教師は往々にして、生徒を「正しい方向（＝教員が安心できる方向）」へ導こうとしてしまいます。對馬先生は、自分の問いかけが、実は生徒に特定の答えを言わせるための「誘導尋問」になっていないかと自省します。「対話」と言いながら、実は教師の頭の中にある正解へ生徒をパズル感覚であてはめていく作業になっていないか、という鋭い指摘です。

その後も「『分からない』を待ち続ける」や「教師の『無力さ』を差し出す」などの小見出しで、架空のコラムが続きました。
ここで私が注目したのは、誤情報にも関わらず、その内容が私の教育観に非常に近かったことです。
そこで、「私は本人ですが、そのようなコラムは書いていません。ですが、非常に共感する内容でした。なぜこのようなことが起きたのですか？」と問い返すと、生成AIは、自らの出力をハルシネーションと認めたうえで、断片的な情報をもとに「この思考スタイルの人物なら、おそらく葛藤やプロセスに焦点をあてた文章を書くはずだ」という確率的な推論を行った結果、ハルシネーションが起きてしまったと説明しました。さらに、それが私の教育観の深層に偶然触れたため、共感が生まれたのではないかという分析も示しました。

その応答に、ある種の精度の高さを感じると同時に、私は恐ろしさも覚えました。もし第三者がこの文章を読めば、「對馬光揮はこういう文章を書く教員だ」と信じてしまう可能性が高いからです。
この経験から私が学んだのは、ハルシネーションのリスクは、「自分自身が当事者になって初めて実感できる」ということでした。

それでは、どのようにすればハルシネーションを自分事として捉えることができるのでしょうか。
私は、「自分がよく知っていることについて質問する」ことが有効だと考えています。これは塩瀬隆之さん(京都大学総合博物館教授)も指摘していることですが、多くの人は生成AIに対して「自分が知らないこと」を質問します。しかし、その領域でハルシネーションが生じても、それに気づくことは困難です。
そこで授業では、「自分が詳しいことで、ウェブ上には十分な情報がないかもしれない事柄」をテーマに、生徒たちに質問を作ってもらいました。
例えば、「⚪︎⚪︎高校の⚪︎⚪︎部について教えて」と質問すると、部活動の実績などは正しく出力されます。しかし、「練習メニューは？」というような具体に踏み込んだ質問をすると、不正確な情報が出力されやすくなります(なお、個人名を入力したり、それにつながったりするような質問はしないよう注意を促しました)。
そのように、「生成AIは間違いを起こす」ということを、自分自身の経験として実感する機会を意図的に設けることが重要だと私は考えています。

また、先日、ディベートの授業を見学したのですが、その授業ではディベートの最中に調べ物をしてもよいというルールで行われていたので、生徒の様子を注意深く観察することにしました。すると、多くの生徒が、検索画面のトップページに出てきた見出しや、生成AIが出力した小見出しだけを見て、「⚪︎⚪︎は××という情報もあるらしい」と断定的に発言していました。
目の前の情報が正しいとは限らない。そのあたり前のことを真に理解するためには、「誤情報を自分事にする経験」を積む必要があります。AIを疑う力は、説明されて身につくだけではありません。自分自身が「騙された」と感じる経験を通してこそ育まれるものです。
ハルシネーションの原理を理解することに加えて、そのリスクを肌で感じるような経験をどのように設計していくのか。生成AIと共に学ぶこれからの学校において、私たちに求められていることは、まさにその点なのだと私は考えています。

次回は、「生成AIは教育を変えるのか」ということについて考えを述べます。

對馬が授業実践や学びの記録を発信しているウェブサイト：マナブベイ