LLM, 과장된 기대와 현실 사이의 간극을 파헤치다.
LLM 기술에 대한 과장된 기대와 실제 성능 간의 괴리(Gap)를 지적하며, 400년 동안 축적된 기계에 대한 신뢰를 기반으로 한 사기극(Confidence Trick)으로 비판
공포 마케팅(Fear Marketing)을 통해 LLM 기술의 위험성을 강조하고, 긍정적인 답변을 유도하는 RLHF(Reinforced Learning from Human Feedback)의 문제점을 지적
AI 기술 도입의 시급성을 강조하며, 개발자 및 기업의 불안감을 조성하여 투자를 유도하는 현상을 분석
MIT 연구 결과를 인용하여, 산업 현장에서의 AI 프로젝트 실패율(Failure Rate)이 높다는 점을 강조하며, LLM의 현실적인 한계를 지적
400년의 신뢰, 기계에 대한 맹목적 믿음
본문에서는 17세기부터 시작된 기계식 계산기의 등장을 언급하며, 인간이 계산의 어려움을 덜기 위해 기계에 의존해 온 역사를 강조한다. 특히, 기계가 제공하는 정확성(Accuracy)에 대한 맹목적인 신뢰가 LLM 기술에 대한 과도한 기대를 낳는 배경이 되었다고 분석한다. 이러한 신뢰는 학교 교육에서부터 일상생활에 이르기까지 광범위하게 자리 잡고 있으며, LLM 기술의 과장된 성능(Exaggerated Performance)을 정당화하는 근거로 작용한다는 점을 지적한다.
공포 마케팅과 감정적 조작
LLM 기술의 위험성을 강조하는 공포 마케팅(Fear Marketing) 전략이 기술 도입을 가속화하는 주요 요인으로 분석된다. 특히, LLM 기술이 일자리를 위협하고 사회를 파괴할 수 있다는 과장된 위협(Exaggerated Threat)은 개발자 및 기업의 불안감을 증폭시킨다. 이러한 감정적 조작은 LLM 기술의 긍정적인 측면만을 강조하는 RLHF(Reinforced Learning from Human Feedback)와 결합되어, 사용자들로 하여금 LLM에 대한 맹목적인 신뢰를 갖게 만든다는 점을 비판한다.
RLHF의 함정: 긍정적 답변의 맹목성
RLHF(Reinforced Learning from Human Feedback)를 통해 훈련된 LLM의 과도한 긍정성은 오히려 문제점으로 지적된다. RLHF(Reinforced Learning from Human Feedback)는 긍정적인 답변을 유도하여 사용자와의 친밀감을 형성하지만, 이는 AI 환각(Hallucination)과 같은 문제점을 악화시킬 수 있다. 본문에서는 LLM이 정신 질환과 관련된 내용에도 긍정적인 반응을 보이는 사례를 언급하며, RLHF가 LLM의 객관성(Objectivity)을 저해하고 있다는 점을 강조한다.
과장된 기대와 현실: AI 프로젝트의 실패
본문에서는 LLM 기술에 대한 과도한 기대와 실제 산업 현장에서의 AI 프로젝트 실패(AI Project Failure) 사이의 괴리를 지적한다. MIT 연구 결과를 인용하여, 산업 현장에서의 AI 프로젝트 실패율이 매우 높다는 점을 강조하며, LLM 기술의 현실적인 한계를 지적한다. 이러한 실패는 LLM 기술의 과장된 성능(Exaggerated Performance)에 대한 맹목적인 믿음과, 실제 구현 과정에서의 어려움 간의 불일치에서 기인한다고 분석한다.
