「古き良き人工知能」（GOFAI）の失敗

　著者は序文で、「特定のプロジェクトを評価したり、ますます進む進歩を推奨したりするものではない」と断りを入れている。それは、AIについて個別の性質や能力を問うのではなく、存在そのものの根拠あるいはその様態について普遍的な問いかけをするという、哲学における「存在論」に基づいている。

　第1世代のAIが登場した当時は、あくまで“人間の思考や合理性を模倣して、「賢く」みえるようにする機械を構築する”という代物だった。それ故に初期のGOFAI（古き良き人工知能）は失敗したのだと、著者は指摘している。例えば、コンピューターは極端に速い速度で計算するのに対して、人間の脳は約5000万倍も遅い低レベルな能力にもかかわらず、驚くべき並列処理によってコンピューターを凌ぐ能力を引き出しているという。その能力によって人間は、世界地図を見たときにデータベースを参照して判断することにとどまらず、知らないことについて推測することもできるが、対して、当時のAIはデータに無い情報は無いものとして扱うことしかできなかった。

第2世代のAIと機械学習の評価

　第1世代の能力の限界について著者は、他人から「何を考えているのですか？」と尋ねられたら、「私は○○を考えています」と答える一方で、「私のコルチゾン値が2.7％増加し、脳漿で起こった107回の神経発火によって情報を伝達しました」などと返答する可能性を解説している。

　どちらも論理的な回答な訳だが、入力された情報から出力する答えまでの経過を多層的にすることで、複数の結果を導くことができるのが、第2世代のAIと結びついている「ディープラーニング」と「機械学習」である。これは、神経レベルにおける脳の構造と良く似ていることから「ニューラルネットワーク」とも呼ばれていて、訓練することにより能力を向上できることを示唆している。しかし、神経学的批判の目で見ると、脳の構造は依然として「誰も知らないという事実」があり、それが本当に「知能」なのかという疑念は残ることとなる。

本物の知能の基準とは？

　そもそも、「知能を客観的に見る」ことには本質的な矛盾が存在する。観察者である人間が、AIにタグ付けしたデータを与えて訓練している場合、「知らず知らずのうちに」システムが先入観や偏見のパターンに陥ってしまう可能性があり、TwitterやFacebookなどのSNSを情報源にすると、人種差別とかフェイクニュースまでをも再現してしまうそうだ。

　これを克服するには、主観を離れて外界の事物を観察する「客体」という概念が必要となる。つまり、「AIシステムにとって何かを客体だと考えること」を教えなければならない。ところがこれは、著者によれば「目下想定されているいかなるコンピューターシステムも実行できないことである」としている。

人間vs.機械

　それでも人間が動物の中の1種族だとすれば、機械であるコンピューターと区別するものは何か。いずれ「“真の判断力を備えたシステムが永久に生み出されない”とは断言できない」と著者は述べている。

　フィクション作品でモチーフとなることが多い「知能のある機械が現れて私たち人間に取って代わるかどうか」という重要な問題に直面するとき、「人間の心と能力と人間の文化の成果に対して、私たちは畏敬の念を抱かなければならない」と人間讃歌で締めていたのは、今後のAIの成果についても同様ということなのだろう。少なくとも、私のスマホの画面に人様には見せづらい広告が表示されるのは、自身の行動の結果なのだと自覚した。

文＝清水銀嶺