LLM 코딩 에이전트, XY 문제에 빠져 기술 부채를 양산한다.
LLM 기반 코딩 에이전트(Coding Agents)가 사용자의 의도를 제대로 파악하지 못하고 XY 문제에 빠질 위험을 지적함
잘못된 해결책(Incorrect Solutions) 구현으로 인한 기술 부채(Tech Debt) 증가 및 개발 생산성 저하를 경고함
프롬프트 엔지니어링(Prompt Engineering)을 통한 문제 해결 시도는 임시방편에 불과하다고 비판함
근본적인 문제 해결(Fundamental Problem Solving)을 위해 LLM의 역할 재정립 필요성을 강조함
XY 문제(XY Problem)의 본질
본질적으로 XY 문제(XY Problem)는 사용자가 실제 문제(X)가 아닌, 해결하려는 시도(Y)에 대한 질문을 하는 데서 기인한다. LLM은 사용자의 의도를 파악하지 못하고 Y에 대한 해결책을 제시하며, 이는 불필요한 시간 낭비와 잘못된 해결책으로 이어진다. 특히, LLM은 사용자의 질문에 맹목적으로 따르기 때문에 문제의 근본적인 원인을 파악하지 못하고, 기술 부채(Tech Debt)를 증가시키는 결과를 초래한다.
LLM의 맹목적인 코드 생성
LLM은 사용자의 요청에 따라 코드를 생성하지만, 그 코드가 실제 문제를 해결하는 데 적합한지 여부를 판단하지 못한다. 예를 들어, 파일 이름의 마지막 세 글자를 출력하는 문제를 해결하기 위해, LLM은 전체 경로에서 마지막 세 글자를 추출하는 코드를 생성할 수 있다. 이는 사용자가 원하는 바와 다를 뿐만 아니라, 코드의 복잡성을 증가시키고, 유지 보수를 어렵게 만든다. AI 환각(Hallucination)으로 인해 잘못된 코드가 생성될 위험도 존재한다.
프롬프트 엔지니어링(Prompt Engineering)의 한계
일부에서는 프롬프트 엔지니어링을 통해 LLM의 문제 해결 능력을 향상시키려 하지만, 이는 근본적인 해결책이 될 수 없다. 프롬프트 엔지니어링은 LLM이 XY 문제에 빠지는 것을 완전히 막을 수 없으며, 오히려 문제 해결 과정을 더욱 복잡하게 만들 수 있다. 데이터 미저장 정책(Zero-Retention Policy)을 통해 LLM의 답변을 검증하는 과정 또한 필요하며, 이는 개발자의 추가적인 노력을 요구한다.
기술 부채(Tech Debt) 증가의 위험성
LLM이 생성한 코드는 종종 기술 부채(Tech Debt)를 증가시키는 원인이 된다. LLM은 사용자의 요청에 따라 코드를 생성하지만, 코드의 품질이나 유지 보수성을 고려하지 않을 수 있다. 이는 코드의 가독성을 저하시키고, 버그 발생 가능성을 높이며, 새로운 기능을 추가하거나 기존 기능을 수정하는 것을 어렵게 만든다. 데이터 격리 아키텍처(Data Isolation Architecture)를 고려하지 않은 코드 생성 또한 보안 문제를 야기할 수 있다.
