ハルシネーション。

ハルシネーション（hallucination）とは、生成AIが、事実に基づかない誤った内容を、もっともらしく出力してしまう現象。

「それらしいのに、事実としては間違っている」——生成AIを学びや仕事に使うとき、最初に理解しておきたい性質です。もっともらしい文体で出力されるぶん、かえって誤りに気づきにくいという厄介さがあります。

なぜ起きるか

生成AIの多くは、大量の文章から「次に来そうな言葉」を確率的に予測して文をつくる仕組みで、内容の事実性そのものを保証する装置ではありません。そのため、実在しない出典や論文、数値、人物のプロフィールなどを、もっともらしく作り上げてしまうことがあります。質問が専門的だったり、学習データに乏しい話題だったりするほど、こうした「作話」が起きやすいとされます。

付き合い方

対策の基本は、出力を鵜呑みにせず、一次情報や別の資料と突き合わせて確かめることです。とくに固有名詞・数値・引用は、そのまま信じずに裏取りをする姿勢が欠かせません。学校での利用ガイドラインでも、AIに任せきりにするのではなく、この「確かめる力」を育てることが前提に置かれています。答えを得る道具としてだけでなく、上手に疑いながら考える練習の相手にもなります。

補足：確かめる習慣は、生成AI時代の「情報活用能力」の中心にあたる。技術の進歩で誤りは減りつつあるが、ゼロにはならない前提で付き合いたい。