AI, 세상을 이해할 수 있을까? 데이터 분석의 새로운 질문

본문에 따르면 LLM은 텍스트를 통해 세상을 학습하며, 다음 단어 예측을 위해 세계 모델(World Model)을 형성한다. 일리야 수츠케버(Ilya Sutskever)는 LLM의 성능 향상을 “말을 그럴듯하게 하는 능력” 증가가 아닌, 세계를 더 정교하게 압축하고 재현하는 내부 모델의 해상도(Resolution)가 높아지는 과정으로 정의한다.

글에서는 스케일링 법칙(Scaling Law)이 지능이 어느 순간 갑자기 생겨나는 것이 아니라, 세계를 압축하고 재현하는 능력이 점진적으로 개선되는 과정임을 시사한다고 분석한다. 모델 내부에서 형성되는 세계 모델의 해상도(Resolution)와 충실도(Fidelity)가 함께 높아지면서, 이전에는 통계적 잡음으로 보이던 신호를 점차 구조로 인식하게 된다.

본문은 벤치마크 점수, 손실 감소율, 특정 태스크 정확도와 같은 지표가 실제 사용 환경의 복잡성을 충분히 반영하지 못한다고 지적한다. 모델은 지표 상에서는 “정답에 가까운 문장”을 생성할 수 있지만, 실제 사용자는 그 결과를 의사결정이나 행동으로 옮겨야 하며, 이 지점에서 미묘한 오해, 과잉 확신, 맥락 누락이 발생한다.

글에서는 존 설(John Searle)의 중국어 방(Chinese Room) 사고실험을 통해 기호를 다루는 능력과 의미를 이해하는 능력 사이의 간극을 강조한다. 중국어를 전혀 모르는 사람이 규칙서에 따라 기호를 조작해 완벽한 중국어 답변을 만들어낼 수 있지만, 그 과정 어디에도 문장의 의미에 대한 이해는 개입하지 않는다.

본문은 피지컬 AI(Physical AI)가 텍스트 중심 학습의 한계를 보완하고, 언어 모델이 현실 세계와 맞닿을 수 있는 접점을 만든다고 설명한다. 피지컬 AI는 로봇이 사과를 집어 들 때 느끼는 압력, 무게, 미끄러짐과 같은 감각 경험을 통해 기호 접지(Symbol Grounding)를 실현한다.