JA EN
体系論文解説
·★ 会員·15分で読めます

記号主義vs接続主義 — 60年論争の現在地

AIには「規則を書き下す派」と「例から重みを学ぶ派」という二つの部族があり、60年ずっと争ってきました。パーセプトロン本・エキスパートシステムの崩壊・誤差逆伝播の逆転劇をたどり、なぜ今のLLMが電卓を呼び文法に縛られているのか、その必然を1から解説します。

対象textタスクreasoning

レシピを書く人と、味を覚える人

誰かに料理を教える方法は、大きく2つあります。

ひとつはレシピを言葉で書き下すやり方です。「塩は3グラム、180度で20分、表面が色づいたら取り出す」。手順が明示されているので、その通りにやれば同じものができますし、失敗したときにどの行が悪かったのかを指さすことができます。

もうひとつは横で何度も作らせるやり方です。手順は教えません。作らせて、味見して、「もう少し塩」「火が強い」と言うだけ。何十回か繰り返すうちに、本人も説明できないまま手が覚えます。

この2つの教え方は、そのままAIの二大流派に対応します。前者が記号主義(symbolic AI)、後者が接続主義(connectionism)です。人工知能の60年は、この二つの部族がお互いを「そんなやり方では知能に届かない」と言い合ってきた歴史でした。

今はどう見ても後者の圧勝に見えます。ところが、その勝者であるLLMが、計算のたびに電卓を呼び出し、出力の形をJSONスキーマで縛られ、数学の証明では記号推論エンジンと組まされている。勝ったはずの側が、負けたはずの側の道具を手放していないのです。この記事はその理由を、論争の始まりから追いかけます。

記号主義 — 考えることは、記号を並べ替えること

1956年のダートマス会議で「人工知能」という言葉が生まれた頃、主役は記号主義でした。アレン・ニューウェルとハーバート・サイモンのLogic Theoristは、ラッセルとホワイトヘッドの『プリンキピア・マテマティカ』に載っている定理を、機械が自力で証明してみせました。人間が証明を思いつくのと同じことを、記号の書き換え規則の探索としてやってのけたわけです。

彼らは1976年のチューリング賞講演で、この立場を一文にまとめています。物理記号システムは、知的行動のための必要十分な手段である。噛み砕くと「世界を記号で表し、規則で並べ替え、良さそうな並べ方を探索する。それだけで知能は成立するし、知能があるならその中身は必ずそれだ」という主張です。

この立場の強みは、いま読んでも古びていません。規則が正しければ答えは確実に正しいなぜその答えになったかを規則の連鎖として示せるデータがほとんど要らない。そして組み合わせで無限に新しいものを作れる。「太郎が花子を殴った」を理解できる仕組みは、規則に基づいている限り自動的に「花子が太郎を殴った」も理解できます。記号を組み替えるだけだからです。

接続主義 — 考えることは、つながりの強さ

対する接続主義は、規則ではなく脳の配線から出発します。1943年、マカロックとピッツが神経細胞を「入力の重み付き和が閾値を超えたら発火する素子」として数式化しました。1958年、フランク・ローゼンブラットはこれを学習するように仕立て、パーセプトロンと名付けます。Mark I Perceptronという実機まで作られ、当時のニュースは「自分で歩き、話し、見て、書く機械の萌芽」と報じました。

パーセプトロンの中身は驚くほど単純です。

y=step ⁣(iwixi+b),step(z)={1(z0)0(z<0)y = \mathrm{step}\!\left(\sum_{i} w_i x_i + b\right), \qquad \mathrm{step}(z) = \begin{cases} 1 & (z \ge 0) \\ 0 & (z < 0) \end{cases}
(1)

式(1)は「入力 xix_i のそれぞれに重み wiw_i を掛けて全部足し、下駄 bb を履かせて、正なら1・負なら0を出す」と言っているだけです。xix_i が入力の各要素(画素の明るさなど)、wiw_i がその要素をどれだけ重視するか、bb が「そもそも発火しやすいか」を決めるつまみです。

学習則も1行です。

wiwi+η(ty)xiw_i \leftarrow w_i + \eta\,(t - y)\,x_i

tt が正解、yy が今の出力、η\eta(イータ)が1回でどれだけ動かすかの歩幅です。正解と出力が一致していれば ty=0t-y=0 なので何も起きず、間違えたときだけ、間違えた向きに少しずらす。これだけで、線で分けられる問題なら必ず有限回で分け終わることが証明されています。

ここが記号主義との決定的な違いです。誰も規則を書いていない。例を見せただけで、重みという数値の集まりが規則の役目を引き受けている。

FIG 1パーセプトロンそのものです。重みとバイアスのつまみを動かすと出力が切り替わります。つまみが決めているのは結局「1本の境界線をどこに引くか」だけだ、という感覚を掴んでください

1969年、本が1冊出た

マービン・ミンスキーとシーモア・パパートの『Perceptrons: An Introduction to Computational Geometry』(MIT Press, 1969。1988年に増補版)は、この熱狂に数学で応えました。

彼らが持ち出したのは、たった2入力の排他的論理和(XOR)です。「どちらか一方だけが1のとき1、両方0か両方1のときは0」。

x1x_1 x2x_2 XOR
0 0 0
1 0 1
0 1 1
1 1 0

これが単層パーセプトロンで絶対に表現できないことは、3行で示せます。式(1)に4行を代入すると、b<0b < 0w1+b0w_1 + b \ge 0w2+b0w_2 + b \ge 0w1+w2+b<0w_1 + w_2 + b < 0 が同時に成り立たなければなりません。真ん中の2つから w1bw_1 \ge -b かつ w2bw_2 \ge -b なので、w1+w2+bbw_1 + w_2 + b \ge -b です。ところが b<0b < 0 なので b>0-b > 0、つまり w1+w2+bw_1 + w_2 + b は正になる。最後の条件と矛盾します。

図で言えば当たり前の話です。単層パーセプトロンにできるのは平面に直線を1本引いて左右に分けることだけ。XORの4点は対角どうしが同じ色なので、どう引いても分かれません。

この先にあるもの

§

ここから先は会員限定です

解説記事371本・教科書26章・学生モード48単元・論文精読6本が、月額¥490ですべて読み放題になります。新しい解説は毎日3本ずつ増えます。いつでも解約でき、解約後も期間の終わりまで読めます。

会員の方はログインすると続きが表示されます

コメント

コメントにはログインが必要です