この画像を大きなサイズで見るちょっと前までは「ググれ」と言われていたように、知らないことを調べるときはネット上で検索するのが定番だったが、もはや今は、最近ではChatGPTなどのAIにピンポイントで質問する人も多くなった。
AIチャットボットは、まるで人間のように流暢な文章を書き、ごく自然な会話をする。そのため、人間と同じように言葉を理解していると思いがちだ。
だが、オーストラリアのメルボルン大学と日本の一橋大学の研究で、AI内部での言葉の処理のしかたは人間の脳とはまったく異なっていることがわかった。
人間は「”犬”が人を噛んだ」と「”人”が犬を噛んだ」という同じ単語からなる文章を全く違う意味として区別するが、AIの内部ではそれらをほぼ同じものとして処理しているのだ。
この研究成果は『eLife』誌(2026年10月23日付)に掲載された。
参考文献:
- Human brains track who did what to whom in ways AI language models don't, fMRI study suggests
AIは本当に言葉の意味を理解しているのか
AIチャットボットの土台となる大規模言語モデル(LLM)は、あらゆる質問に対して文法的に正しい自然な文章で答えることができる。
だが本当に、AIが人間と同じように言葉を理解しているのかという疑問が生じる。
2024年のマサチューセッツ工科大学の研究では、AIチャットボットが内部で作るモデルには一貫性がないことが示されている。
今回の研究は人間の脳活動と比較するという別の角度からこの疑問にアプローチした。
メルボルン大学と一橋大学の研究チームは、AIが言葉の意味を人間の脳と同じように整理しているのかを調べた。
この画像を大きなサイズで見るfMRI装置で人間の脳活動とAIを比較
研究チームは、英語を母語とする30人を対象にメルボルン大学で実験を行った。
基本の文と、それに言葉を加えたり置き換えたりした108の英文を用意した。
参加者が高性能なfMRI装置の中でそれらの文を読んでいる間の脳活動を測定し、言語ネットワークと呼ばれる言葉の処理に関わる脳の領域の血流の変化を分析した。
同時に、同じ文を処理したときのAIの内部の表現を算出し、人間の脳の活動パターンと比較した。
比較には、Meta社の「Llama 3」など8種類のAIの言語モデルが使われた。
人間は「誰が、誰に対し、何をしたか」をはっきり区別する
実験の文章には、ほぼ同じ単語を使いながら、単語の位置だけを入れ替えた文も含まれていた。
英語の場合、単語を順番や前置詞によって「誰が、誰に、何をしたか」が決まる。
たとえば「The cameraman brought the equipment to the director.(カメラマンが機材を監督のところへ持ってきた)」の名詞を入れ替えて「The director brought the cameraman to the equipment.」(監督がカメラマンを機材のところへ連れてきた)にすると、使われている単語はほぼ同じでも、まったく別の意味の文になる。
日本語の場合は、「が」や「を」などの助詞を変えることで「誰が、誰に、何をしたか」が決まる。
人間は文章を読むとき、個々の単語の意味に加えて、こういった構造上の関係を瞬時に把握する。
同じ単語が使われていても「犬が人を噛んだ」と「人が犬を噛んだ」を全く別の意味として区別するため、単語が入れ替わった文章を読んだとき、明らかに別のものとして脳が反応する。
この画像を大きなサイズで見るAIの内部の表現は人間の脳とは異なっていた
一方、AIの内部の表現では、同じ単語(名詞)が入れ替わった文章をほぼ同じ意味として扱っていた。
名詞が入れ替わると、人間の脳の反応は大きく変わったが、AIの内部の表現はわずかしか変わらなかった。
だがあえて、「意味が似ている組み合わせと違う組み合わせがどれくらい似ているのか?」を答えさせたところ、ChatGPTにも使われたAI「GPT-4」は違いを説明することができた。
AIは質問されれば人間のように正しく答えられる。だがAIの内部では、意味が人間の脳とは違う方法で整理されていたのだ。
フォーダー氏によると、コンピューターが人間並みに作業をこなせても、人間と同じように言葉を理解しているとは限らないという。
幻冬舎(Gentosha)会話型心理ゲーム 人狼
このPRリンクから注文に進んだ場合、販売サイトからカラパイアに紹介料が支払われることがあります。紹介料が発生した場合は、サイト運営の継続と記事制作の資金として活用いたします。
















