だが、驚異的なのは―そして意外でもあるのは―、ウェブ上や書籍などで見られる文章に見事に「似ている」文章をこのプロセスで生成できるということだ。筋の通った人間の言語になっているだけでなく、「読み取った」内容を利用しながら、「プロンプトに即し」た「内容を話す」のである。「普遍的に意味のある」こと（あるいは、正しい計算に対応すること）を常に話すとはかぎらない。

　最後に補足されている通り、「そう語られている」からといってChatGPTが「そう思っている」わけではありません。あくまで「正しいと思われる」ことを述べているにすぎないということです。たとえば、「渋谷のおいしいレストランを10個教えてください」と検索エンジンのようにChatGPTに入力した場合、10個を挙げてくれはしますが、それはChatGPTがそう思っているわけではなく、ネット上の情報からそう判断される情報が書かれています。

「次に続く単語のランク付け」を繰り返すことでChatGPTは文章を生成しますが、著者によると、最高ランクの単語を選び続けると創造性がないフラットな文章になるため、「あえて崩す」というような形でランクが低い単語が選ばれることもあるそうです。そのため、同じ指示でも異なる回答が返ってくることも多く、また、弱点の一つとして、「ありそうな単語の組みあわせ」だけを重視して、存在しないデタラメなものをでっちあげて回答することがしばしばあるということです。

　しかしこの「でっちあげ」「虚構をつくる」という弱点は、いくらか「人間のよう」だと評することもできます。人間の脳内のメカニズムはいまだに解明されていませんが、ChatGPTも「どのように機能しているか」を説明するのは難しいといいます。「どういうわけか人間のようになる」ことの不思議さが、本書では終始一貫しています。

ネコの写真を自分の目で見て、「なぜこれはネコなのか」と自問してみると、たとえば「耳がとがっているから」などという答えが思い浮かぶだろう。だが、その画像をどうやってネコと認識したかを説明するのは、それほど容易なことではない。どういうわけか、自分の脳がそう判別しただけなのだ。しかも、脳に関して、その「内側まで入り込ん」で、どうやって判別したかを研究する術はまったくない（少なくとも今のところ）。

　ChatGPTはただ便利であるというだけではなく、どのように機能しているかというのが開発者、有識者にとっても謎で、「ChatGPTの頭の中」のメカニズムの解明は人間の脳のメカニズムの解明にも大きく寄与し得るのではないでしょうか。そのような「ChatGPTのそもそも論」を深く掘り下げてくれている一冊です。

文＝神保慶政