AIが人間同様の知能に到達できない理由

この画像を大きなサイズで見る

　人間には、覚えた顔を見分けたり、似た音を聞き分けたりと、経験から身につけているものの、言葉ではうまく説明できない知識がたくさんある。暗黙知と呼ばれるものだ。

　アメリカの計算機科学者、ピーター・J・デニング氏が2026年に発表した著書によると、人間の持つ暗黙知をAIにプログラムとして組み込むことはできないため、AIが人間の知能に到達することは難しいという。

　AIは独自の暗黙知を持つ可能性はあるものの、人間とは異なったものとなるとされている。

かつてのAI研究の過ち

　アメリカの計算機科学者ピーター・J・デニング氏は、2026年に発表した著書『チューリングの誤り』の中で、理論計算機科学の父と呼ばれるアラン・チューリングが1950年に示した考えが、その後75年にわたって人工知能（AI）の研究を誤った方向に導いてきたという。

　チューリングが生きた時代、多くの科学者は、人間の知能は身体とは切り離して存在できると考え、デジタルコンピュータ上で動くソフトウェアとして作り上げ類ことができると信じていた。

　チューリングはさらに、機械が「人間と同等の知性」を持っているかを判定するためのテストを作った。

　機械が人間になりきって受け答えできれば知能があると見なせるという判定法で、「チューリングテスト」と呼ばれる。

　デニング氏は、この考えこそAI研究をゆがめてきた原因だと指摘する。

　デニング氏は、現在開発が進むAIは、汎用人工知能（AGI）を生み出す見込みは低く、むしろ人間のように思考しないまま深刻な危険を生み出しかねないと警告している。

　AGIとは、特定の作業だけをこなす今のAIとは違い、あらゆる分野の課題に幅広く対応できる知能をいう。

　想定外の状況でも自ら学習し、能力を応用して柔軟に様々な状況に適応することができ、AGIが人間の知能を上回ると、シンギュラリティ（技術的特異点）が起きるとされている。

この画像を大きなサイズで見る

AIが学ぶことができない「暗黙知」

　デニング氏の主張の中心にあるのが、「暗黙知」という概念だ。

　暗黙知とは、感覚で覚えているために言葉ではうまく説明できない知識のことをいう。

　たとえば自転車は、一度乗り方を覚えると何年たっても忘れない。バランスの取り方など難しい技術がいくつも必要なのに、人はそれを意識せず乗りこなしている。

　ところが、その乗り方を言葉できっちりと誰かに説明しようとすると途端に難しくなる。

　覚えた顔を見分けたり、似た音を聞き分けたりする力も同じで、経験知と身体知でわかっているのだが、自分がどのように認識しているのかをうまく言葉にするのは難しい。

　こうした、人間が持っているのに言葉で完全に言い表したり、機械が処理できる記号に置き換えたりすることのできない知識が「暗黙知」である。

　デニング氏は、機械学習では捉えきれない暗黙知を、大きく5つの形に分けている。

　常識、人や環境との日常的なやりとり、感情や知覚、実践的な技能、そして社会が共有する文化的・歴史的な背景である。

　研究者たちは、暗黙知をコンピュータが使える形で記録しようと何十年も試みてきた。

　1980年代に始まったCycプロジェクトは、常識的な事実を集めた巨大なデータベースを作ろうとした取り組みだ。

　40年をかけて、Cycプロジェクトは2500万件もの項目を蓄えた。

　しかしデニング氏は、それだけの量を集めても、AIを専門家並みに賢くするのに十分な常識をそろえることはできなかったと記している。

　人を専門家たらしめている知識の多くは、言葉のかたちには表せないことが、Cycプロジェクトによってかえって裏づけられた。

この画像を大きなサイズで見る

何を知っているかと、どうやるかは違う

　実践的な技能も、AIにとって大きな壁になるとデニング氏は論じる。

　人間が身につけている無数の技能は、機械に明確に伝えることができないからだ。

　巧みなやり方が生む結果を言葉で説明することは、記号にしてコンピュータに保存できる。

　しかし、その技をどう実演するのかという感覚で覚えた知識を、どうやって記号に置き換えればよいのか、人間自身がわかっていない。

　音楽がわかりやすい例だとデニング氏は言う。

　名バイオリニストは美しい音楽を奏でられるが、それをどう生み出すのかを弟子に言葉で説明することはできない。

　たとえロボットが熟練した人間を観察して真似できたとしても、生き物としての身体を持たないロボットには、演奏者が美しい音楽を奏でるときの感覚も、聴く人が受け取る感動も、つかむことはできない。

　直観や勘、とっさにわいてくる創造性や想像力、空気を読む力もまた、コンピュータへの命令には置き換えられない暗黙知の一つである。

表現の問題

　デニング氏は、こうした障害の中心にあるものを「表現の問題」と呼ぶ。

　コンピュータは、データと命令が、それが認識して処理できる物理的な形に置き換えられて初めて計算を行える。

　ところが暗黙知は、そうした形に簡単には変換できない。

　あらゆる言葉の背後には、その言葉に意味を与える暗黙知が深く積み重なっているとデニング氏は言う。

　言葉は意味を表す記号にすぎず、意味そのものではない。

　ChatGPTやClaude、Geminiのような大規模言語モデル（LLM）は、大量の文章を学習して人間らしい文を作るAIだが、言葉を操作しているだけで、自分が言っていることの意味を知ったり理解したりしているわけではない。

　ここに、埋めることのできない溝が生まれる。

　科学者は、暗黙知が人間の中でどう働いているのかを完全には理解していないため、それをどうやって機械に移せばよいのかも見きわめられない。

　暗黙知をどのように宿しているのかはほとんど謎であり、わかっているのは、それが身体に根ざしているということだけだとデニング氏は認めている。

この画像を大きなサイズで見る

文脈が意味を変える理由

　デニング氏は、文脈の重要さも強調する。

　文脈とは、人間の言葉や行動に意味と目的を与える、周囲の状況のことだ。

　同じ発言でも、話し手が真剣なのか、皮肉なのか、怒っているのか、ふざけているのか、からかっているのかによって、まったく違う意味になる。

　文脈は、いつ冗談を言ってよいか、いつ気配りを見せるか、相手が口にしなかったことをどう受け取るかを判断する助けにもなる。

　今のやりとりが前提にしていることがどこから来たのかをたどると、それ以前の会話とその場の状況にたどり着く。

　そのまた一つ一つが、さらに前の会話と状況に基づいていて、さかのぼってもきりがないとデニング氏は説明する。

文化をAIが理解することの難しさ

　文化も、これと関わる難題を突きつける。

　文化には、価値観や社会のルール、判断、歴史、共同体、その場の空気、そして力関係や気づかいをともなう人間関係が含まれる。

　人間の会話は、使われている言葉に意味を与える背景の前提で満たされているとデニング氏は説明する。

　大規模言語モデルをより大きくしても、この問題は解決しないとデニング氏は論じる。

　より大きなネットワークに広げても、人間が文化と呼ぶ、身体に根ざした知識をAIに身につけさせることはできない。

この画像を大きなサイズで見る

AIと人間は異星人のようなもの

　大規模言語モデルは、人間の思考と区別がつかない受け答えをするという、チューリングテストの目的には届かないだろう。

　デニング氏は最終的に、人間と機械はたがいに理解し合えないと描き出す。

　AIは、AIなりの暗黙知のようなものを発達させるかもしれないが、人間にはそれを理解できない。

　機械は人間の暗黙知を読み取れず、人間も機械の暗黙知を読み取れず、渡ることのできない隔たりを挟んだ異星人どうしのようなものだと氏は書いている。

AIの安全性のリスク

　この隔たりは、AIの安全性に重大な影響をおよぼしかねない。

　機械が、人間の指示の背後にある文脈を読んだり、言葉にできない事情を理解できないなら、機械の振る舞いを人間の望みに確実に合わせることは不可能かもしれないとデニング氏は語る。

　AIの自動化が進むと、たがいに連携して動く機械のネットワークは、人間並みの知能には届かないものの、人間に深刻な問題を引き起こすには十分な、独自の機械知能を発達させる可能性が高い。

　デニング氏は、この脅威こそ、人間を超える超知能の機械に乗っ取られることよりも大きいと説明する。

　もっとも差し迫った危険は、人類を超える超知能のAIではない。

　強力で予測がつかず、害をおよぼしかねない動きをする、それほど賢くないシステムのネットワークだというのがデニング氏の見方だ。

　機械の知能は人間とは異なる関心を持ち、人間を気にかけているようには見えない。

　その考え方や問題の解き方は、人間には異質に映る。

　デニング氏が描くのは、AIが人間の知能に届かないという話にとどまらず、AIが人間とは別種の知能を持ちながら、たがいに理解し合えないまま共に暮らしていく未来である。

　私たちはまだ、こうした機械と安全に暮らす方法を知らないとデニング氏は述べている。　

References: Turing's Mistake: Escaping the Yoke of Unintelligent Machines - 1st Ed

• #人間
• #知能
• #AI
• #問題
• #経験