기호주의(Symbolism) 인공지능: 블랙박스를 여는 열쇠

최근 인공지능(AI) 뉴스는 온통 딥러닝(Deep Learning)과 거대언어모델(LLM)에 대한 이야기로 가득합니다. 마치 딥러닝이 AI의 전부인 것처럼 느껴지기도 하죠. 하지만 AI의 역사를 거슬러 올라가면, 딥러닝과는 전혀 다른 철학을 가진 거대한 산맥을 만나게 됩니다. 바로 기호주의(Symbolism), 혹은 고전적 AI(GOFAI: Good Old-Fashioned AI)입니다.

AI가 점점 더 강력해질수록, 역설적으로 우리는 다시 이 ‘오래된 미래’인 기호주의를 주목해야 할 이유가 더욱 분명해지고 있습니다.

기호주의(Symbolism)란 무엇인가?

기호주의 AI는 인간의 지능을 ‘기호(Symbol)를 조작하는 과정’으로 정의합니다. 여기서 기호란 숫자나 단어뿐만 아니라, 현실 세계의 객체나 개념을 추상화하여 표현한 모든 것을 의미합니다.

이 접근 방식의 핵심은 “지능은 물리적 기호 시스템(Physical Symbol System)으로 구현될 수 있다”는 가설에 기반합니다. 즉, 컴퓨터에게 명확한 규칙(Rule)과 논리(Logic)를 가르쳐주면, 컴퓨터가 이를 바탕으로 추론하고 문제를 해결할 수 있다는 접근방법입니다.

연결주의(Connectionism)와의 차이

오늘날 주류인 딥러닝은 연결주의에 해당합니다. 연결주의는 인간의 뇌 신경망을 모방하여, 수많은 뉴런(노드)들의 연결 강도(가중치)를 조정하며 학습합니다.

• 기호주의: $A \rightarrow B$ (A이면 B이다)라는 명시적인 규칙을 사람이 입력합니다. (Top-down)
• 연결주의: 수만 장의 사진을 보여주며 “이게 고양이야”라고 학습시키면, 스스로 패턴을 찾아냅니다. (Bottom-up)

기호주의의 황금기와 핵심 기술

초기 AI 연구자들은 기호주의를 통해 체스를 두거나 수학 정리를 증명하는 시스템을 만들었습니다. 이들이 사용한 핵심 무기는 다음과 같습니다.

1. 지식 표현(Knowledge Representation): 세상의 지식을 컴퓨터가 이해할 수 있는 형태로 구조화합니다. (예: 온톨로지, 지식 그래프)
2. 추론 엔진(Inference Engine): 저장된 지식과 규칙을 바탕으로 새로운 사실을 도출합니다. (예: “소크라테스는 사람이다” + “사람은 죽는다” $\rightarrow$ “소크라테스는 죽는다”)
3. 전문가 시스템(Expert System): 의사나 법률가 같은 전문가의 지식을 IF-THEN 규칙으로 만들어 컴퓨터에 이식합니다.

이 방식의 가장 큰 장점은 설명 가능성(Explainability)입니다. 기호주의 AI가 내린 결론은 논리적인 단계를 거쳐 도출되었기 때문에, “왜 그런 판단을 했는지”를 명확하게 설명할 수 있습니다.

AI의 겨울과 기호주의의 한계

하지만 기호주의는 곧 한계에 부딪혔습니다. 세상은 IF-THEN 규칙만으로 설명하기엔 너무나 복잡하고 불확실했기 때문입니다.

• 취약성(Brittleness): 엄격한 논리 체계에 기반하므로, 미리 정의되지 않은 사소한 예외나 노이즈가 섞인 입력에 대해 유연하게 대처하지 못하고 시스템이 쉽게 오작동하는 한계를 보였습니다.
• 지식 획득의 병목(Knowledge Acquisition Bottleneck): 세상의 모든 지식을 사람이 일일이 코딩해 넣는 것은 불가능했습니다.
• 기호 접지 문제(Symbol Grounding Problem): 컴퓨터에게 ‘사과’라는 기호를 가르쳐도, 컴퓨터는 실제 세상의 사과가 어떤 맛인지, 어떤 느낌인지 이해하지 못하고 그저 기호로서만 처리한다는 철학적 한계도 있었습니다.

결국 데이터만 부어주면 알아서 학습하는 신경망(딥러닝)이 부상하면서, 기호주의는 ‘구시대의 유물’ 취급을 받게 되었습니다. 이로 인해 AI 연구에 대한 투자가 끊기고 대중의 관심이 식어버리는 이른바 ‘AI의 겨울(AI Winter)’이 찾아오게 되었습니다.

왜 다시 기호주의인가?

그렇다면 왜 지금, 딥러닝 전성시대에 다시 기호주의를 이야기할까요? 이는 딥러닝으로 해결하기 적합한 문제와 기호주의로 해결하는 것이 더 효율적인 영역이 서로 다르기 때문입니다.

1. 블랙박스 문제와 설명 가능성 (XAI)

딥러닝 모델은 결과는 기막히게 맞추지만, “왜?”인지는 설명하지 못합니다. 의료나 금융처럼 신뢰가 중요한 분야에서 “AI가 대출 거절이래. 이유는 몰라”라고 할 수는 없습니다. 기호주의의 논리적 추론 능력은 이 블랙박스를 여는 열쇠가 될 수 있습니다.

2. 환각(Hallucination) 현상

LLM은 종종 사실이 아닌 정보를 그럴듯하게 지어냅니다. 이는 LLM이 언어의 ‘확률적 패턴’만 학습했을 뿐, 참/거짓을 판별하는 ‘논리’를 갖추지 못했기 때문입니다. 지식 그래프(Knowledge Graph)와 같은 기호주의 기술을 결합하면, 생성된 문장이 팩트에 기반하는지 검증할 수 있습니다.

3. 뉴로-심볼릭 AI (Neuro-symbolic AI)

그래서 최근 학계와 산업계의 뜨거운 감자는 뉴로-심볼릭 AI입니다.

• System 1 (직관): 딥러닝의 빠른 패턴 인식 능력 (이미지 인식, 자연어 처리)
• System 2 (이성): 기호주의의 논리적 추론 능력 (계획 수립, 복잡한 문제 해결)

인간이 직관과 이성을 모두 사용하는 것처럼, AI도 이 두 가지를 결합하여 더 완벽한 지능으로 나아가려는 시도입니다.

4. 그래서, AI의 겨울은 끝나는가?

이 두 가지의 결합은 과거 기호주의를 AI의 겨울로 몰고 갔던 치명적인 한계들을 보완해줍니다.

1. 깨지기 쉬운 취약성(Brittleness)의 극복: 과거에는 모든 예외를 규칙으로 만들어야 했지만, 이제는 예외적이거나 모호한 상황은 딥러닝의 유연한 직관이 처리하고, 명확한 논리가 필요한 부분은 기호주의가 담당하여 시스템의 견고함을 높입니다.

2. 기호 접지(Symbol Grounding)의 실현: 기호주의의 가장 큰 난제는 “컴퓨터가 ‘사과’라는 기호와 실제 빨간 과일을 연결하지 못한다”는 것이었습니다. 뉴로-심볼릭 AI에서는 딥러닝이 시각(이미지), 청각(소리) 데이터를 인식하여 이를 기호(Symbol)로 변환해줍니다. 즉, 딥러닝이 기호에 ‘현실 세계의 의미’를 부여하는 다리 역할을 하게 된 것입니다.

3. 지식 획득의 자동화: 사람이 손으로 지식을 주입하던 병목 현상도 해결됩니다. 딥러닝 모델이 방대한 데이터에서 패턴을 찾아내어 스스로 지식 그래프(Knowledge Graph)를 구축하거나 규칙을 발견하는 것이 가능해졌기 때문입니다.

결론: 협력의 시대

기호주의와 연결주의는 경쟁 관계가 아니라 상호 보완적인 관계입니다. 데이터를 통해 세상을 배우는(Learning) 연결주의와, 배운 지식을 바탕으로 생각하는(Reasoning) 기호주의가 만났을 때, 비로소 우리는 진정한 의미의 인공지능에 한 걸음 더 다가갈 수 있을 것입니다.

과거의 영광이자 실패였던 기호주의는, 이제 가장 최첨단의 트렌드로 돌아왔습니다.