ハルシネーション

…シオン。ルナは、寝て。

…つく。ハルシネーション。

…それは寝不足。

…まだ、実行してない。

…存在しない関数を、あるみたいに書く。コードではよくある。

…弁護士たちに、5000ドルの制裁金。

…どっちも違う。本人に、嘘の自覚がない。

AIの中身は、「次に来そうな言葉」を予想して、つなげていく仕組み。

「日本の首都は」のあとなら、「東京」。これを一語ずつ、ずっと繰り返してる。

…そう。すごく上手な連想ゲーム。

問題は、あんまり見たことない話。

候補がどれも自信なさげでも、止まらずに、どれかを選んで続けちゃう。

…正しいかどうかじゃなくて、それっぽいかどうかで選んでる。

…好きになるとこ、そこじゃない。

口調の自信と、中身の正しさは、別物。

…それ、2025年にOpenAIの研究者が、論文で理由を書いてる。

AIの実力をはかるテストの多くは、正解なら1点。間違いも「わからない」も、0点。

…ミコは、埋めても0点だった。

…だから「わからない」と言うより、それっぽく答える方向に育ちやすい、って話。

…数字、名前、日付、法律、出典やURL。あと、新しすぎる話と、マイナーな話。

…どっちも極端。付き合い方を変える。3つ。

ひとつ。大事なところは、一次情報で裏取り。公式のドキュメント、原文、発表した本人。

ふたつ。出典を出させたら、リンクを実際に開く。出典ごと作り話のこともある。

みっつ。資料を渡して、「これを元に答えて。わからなければ、わからないと言って」と頼む。

…ミコにしては、正解。

…ルナは、まず寝て。