考えたこと2 | 記号設置問題

2023.07.20 Thursday

記号設置問題

昨日紹介した、認知科学の専門家である今井むつみ教授の新しい記事。

記号設置問題、というのはAIが学習している大規模言語モデルを「意味」として学習しているのではなく、どの言葉が出てきたら、どの言葉が次に来るかという統計を利用しているだけであり、本当の意味や意図を理解していない、という問題のことらしい。

記事の中から引用すると、

「AIは一見、ことばの意味が分かり、人間が言語で言わんとすることを理解しているように見えても、実は一つ一つのことば（記号）の意味を理解しているわけではない。意味を理解しない記号を別の、やはり意味を理解しない記号で置き換えているだけで、どこまで行っても、結局、人間が言語で伝えようとする本当の「意味と意図」は理解できない、というのが「記号接地問題」です。」

つまり、言葉が意味にひっついておらず、単に記号としての言葉を並べているだけ、ということなのだろう。
AIには経験や感覚というものがないから、身体感覚に「接地」していないということだ。
でも、ChatGPTはかなり上手に言葉の意味を理解しているフリができるようになった、ということだ。

ここからが難しいのだが、言葉を並べるだけで、「意味」を理解していないChatGPTには「直感」がないという。
それがないから、分数の問題を間違える。

でも、ここまで正確な答えを返せるChatGPTを「学習」させたエンジニアは、非常に有能な専門家であり、「どの会社にとっても、今、喉から手が出るほど欲しい人材」だ。
それこそ、「直感的な試行錯誤を繰り返して、柔軟に調整してくしかない」らしい。

そうなると、人間はどうして直感を持てるのか、ということになってくる。
ある意味、脳の構造がChatGPTのやっているようなことに近い、というのはきっとそうだろうと思う。
そうでないと、あれだけちゃんと答えは返ってこないはずだ。

そこから先は人間の「思考」の構造の問題であり、それは「熟達」が必要だと研究者は言っているらしい。
そして、文章題が解けない子どもたちの話が出てくる。
ぼくが興味があるのはそこだ。

文章題が解けない子どもたちは、「「数」という概念そのものにも、足し算、引き算、かけ算、わり算にも直観的な理解を持っていない」という。
それは概念が経験にひもづけられていないからだという。

そして、それは教えられないという。

「では、第三者が無理やりにでも記憶を整理し、直観を教えることはできるでしょうか？　残念ながらできません。先生は生徒に「この答えはおかしい」と指摘することはできます。でも、教える側にできるのはある意味、そこまでです。ミスの指摘から、学び手が自分で記憶を整理し、知識の使い方を意識して改善し、習慣化する。直観は、そのような経験をたくさん積んでいくことで、自らつくっていくしかないのです。」

ということは、文章題ができない学生に打つ手はない、ということになる。

そこで記事は終わっていて、「次回に続く」となっている。

それを待つことにしよう。